Cuando ver ya no significa creer: el desafÃo de los contenidos generados por IA
Durante años, la informática se ha enfocado en desarrollar herramientas capaces de procesar información, facilitar la comunicación y representar digitalmente diferentes aspectos de la realidad. Sin embargo, la inteligencia artificial generativa ha adquirido una presencia cada vez mayor en nuestra sociedad.  El rápido avance de la inteligencia artificial ha sido posible gracias a diferentes factores, entre ellos el desarrollo de algoritmos más sofisticados, el aumento de la capacidad de procesamiento de los computadores y el acceso a grandes cantidades de datos. Estos avances han permitido que la IA sea utilizada en diferentes ámbitos de nuestra vida cotidiana, especialmente en los medios de comunicación y las plataformas digitales que utilizamos diariamente. Ante este crecimiento, surge una pregunta que considero fundamental: ¿podemos confiar en todo lo que vemos cuando la inteligencia artificial tiene la capacidad de crear contenidos que parecen reales? Imágenes, videos, audios y textos pueden ser generados o modificados mediante estas tecnologÃas, haciendo cada vez más difÃcil distinguir entre aquello que es verdadero y aquello que ha sido creado artificialmente.
Actualmente, uno de los problemas que ha surgido con el crecimiento de la Inteligencia artificial es la facilidad para crear y difundir información falsa conocida como deepfake. La expresión deepfake proviene de la combinación de los términos deep learning y fake para referirse a un contenido falso generado con técnicas de aprendizaje profundo. A diferencia de algunas técnicas de edición tradicionales, los deepfakes pueden modificar de manera convincente la apariencia, la voz o las expresiones de una persona, haciendo cada vez más difÃcil distinguir entre un contenido auténtico y uno manipulado.
El deepfake representa una amenaza significativa, ya que puede utilizarse para engañar, manipular y dañar la imagen de las personas, presentándolas en situaciones o mostrando acciones que en realidad nunca sucedieron. Este tipo de contenido puede provocar graves consecuencias, como afectaciones psicológicas, pérdida de reputación y daños en la vida personal y profesional de las vÃctimas. Además, el problema no se limita a un grupo especÃfico, pues puede afectar tanto a hombres como a mujeres, e incluso a niños y adolescentes. Por esta razón, es necesario promover un uso responsable de esta tecnologÃa y establecer medidas que permitan prevenir y combatir su uso malintencionado, con el fin de proteger derechos fundamentales como la privacidad, la intimidad y la dignidad humana. De esta manera, también se contribuirÃa a reducir la desinformación, la confusión y la pérdida de confianza que estos contenidos pueden generar en la sociedad.
Dado que las personas tienden a sobreestimar su capacidad para detectar engaños, es fundamental desde el ámbito de las ciencias computacionales, desarrollar herramientas tecnológicas capaces de verificar la autenticidad de este tipo de contenidos. Una de las posibles estrategias para reducir el riesgo de engaño mediante contenidos generados artificialmente consiste en incorporar alternativas como el análisis de metadatos, las marcas de agua digitales y los sistemas de procedencia, como C2PA, que permiten incorporar información sobre el historial de determinados contenidos digitales.
Por otro lado, las organizaciones que desarrollan aplicaciones basadas en inteligencia artificial deben asumir un compromiso con la transparencia, la ética y la responsabilidad en el uso de esta poderosa tecnologÃa. Esto implica establecer mecanismos de verificación, supervisión y trazabilidad que permitan identificar posibles manipulaciones y reducir sus efectos negativos sobre la sociedad.
Sin embargo, también existe una postura contraria que debe ser considerada. Algunas personas podrÃan argumentar que exigir la identificación de todos los contenidos generados por inteligencia artificial puede limitar la creatividad y los usos legÃtimos de esta tecnologÃa. Actualmente, la IA generativa puede utilizarse en la industria cinematográfica, la educación, el diseño y la publicidad para producir materiales que tienen una finalidad completamente legÃtima. Además, no todo contenido generado artificialmente pretende engañar. Por ello, la solución no deberÃa consistir en impedir su utilización. Desde mi perspectiva, transparencia no significa prohibición. Considero que el desarrollo de la inteligencia artificial generativa debe estar acompañado de mecanismos que garanticen la trazabilidad y autenticidad de los contenidos, de manera que las personas puedan conocer su origen y tener mayor seguridad sobre la información que consumen.
La inteligencia artificial generativa representa una nueva etapa en la creación de contenidos digitales. Su evolución puede aportar beneficios importantes a diferentes sectores, pero también obligan a reconsiderar nuestra relación con la información. En definitiva, afirmo que el verdadero desafÃo no consiste solamente en enseñar a las máquinas a crear contenidos cada vez más realistas, sino en desarrollar tecnologÃas y hábitos que nos permitan saber cuándo debemos confiar en ellos. Las empresas tecnológicas, desarrolladores, plataformas digitales, organismos reguladores y usuarios tienen responsabilidades diferentes, pero complementarias. No deberÃamos llegar a un punto en el que sea fácil crear información falsa y, al mismo tiempo, difÃcil reconocer la verdadera. Por ello, el desarrollo de la inteligencia artificial debe avanzar acompañado de autenticidad, validación y educación digital. En un mundo donde ver ya no necesariamente significa creer, aprender a verificar puede convertirse en una de las habilidades más importantes de la sociedad digital.
El autor es Profesor de la Facultad de Sistemas de la Universidad Tecnológica de Panamá
