Las Deepfakes son una amenaza real para el periodismo y la sociedad actual. El avance de la tecnología y la Inteligencia Artificial es un fenómeno que, en las manos incorrectas, puede ser cada vez peor; por eso es vital entenderlas y saber defenderse de ellas.
Para entender cómo funcionan las deepfakes, el ingeniero Royman Valbuena explicó que el término debe ser desglosado por partes: “por un lado tenemos la palabra “Deep” y por el otro la palabra “fake”. “Deep” (profundo) es la clave de todo el sistema. Luego tenemos la palabra “Fake” que significa en español falso, Al unir estas dos piezas, el aprendizaje profundo y algo falso, es donde nace oficialmente la deepfake.
Puede leer: LinkedIn suma funciones con Inteligencia Artificial para mejorar perfiles y potenciar la búsqueda laboral
Es clave explicar el Deep Learning, ya que esta es una tecnología que actúa como una réplica del cerebro humano. Según Valbuena, a diferencia de un software común esta tecnología utiliza redes neuronales artificiales que imitan nuestras conexiones biológicas para aprender por sí solas.
Estas redes neuronales funcionan igual que un niño aprendiendo a identificar un rostro de sus familiares. No necesita un manual de reglas, sino que mira muchas veces las caras, luego, poco a poco su cerebro aprende a reconocerlas de forma automática.
Inteligencia Artificial
Según Valbuena la diferencia clave es su profundidad. Mientras una Inteligencia Artificial tradicional usa apenas dos o tres niveles de datos, el “Deep Learning” construye entre 400 y 4,000 capas interconectadas para procesar la información. Valbuena infirió que esto tiene una complejidad tal que hace que nadie pueda percibir esos procesos, de hecho, dio un ejemplo de la vida diaria para explicarlo:
Si preguntas a cualquier persona cuánto es 2+2, todas las personas responderían de manera muy simple que el resultado es 4, pero no saben qué neuronas en su cerebro trabajaron para dar esa respuesta coherente, así pasa con el Deep Learning, ni siquiera los ingenieros pueden explicar el proceso interno que sigue la máquina.
Para la empresa de ciberseguridad SentinelOne, estos contenidos son “medios sintéticos creados para imitar rostros, voces o movimientos con un realismo inquietante”.
No se trata de un simple video o un audio, es una herramienta diseñada para suplantar la identidad de una persona, el problema radica en que lo se hace de forma tan exacta que muchas veces es casi imperceptible ante los ojos u oídos humanos saber si es cierto o falso lo que están viendo y oyendo.
¿Pero quién genera estos videos y audios falsos? Según explicó Valbuena, el engaño ocurre gracias a un sistema llamado GAN (Redes Generativas Antagónicas). Este funciona como un duelo constante entre dos inteligencias que imitan comportamientos humanos opuestos. Las cuales son el generador y discriminador.
Generador
Por un lado, está el generador, que actúa como un falsificador experto. Este se encarga de crear la mentira, por ejemplo, el generador tiene que imitar un billete, poco a poco esta inteligencia artificial crea algo falso y hace que parezca real, al principio tiene muchos errores, pero allí es donde entra la segunda inteligencia, el discriminador.
El discriminador funciona como un crítico, es el que evalúa el trabajo del generador, por ejemplo, chequea que le persona que salga en el billete tenga bien las facciones de la cara y le dice cosas como que una oreja está más grande que la otra, luego el que genera el billete va a arreglando esos errores para perfeccionar su trabajo.
Este intercambio y duelo se repite millones de veces, no para hasta que todo esté perfecto, Valbuena simplificó todo a un ejemplo entre un profesor y un estudiante: “si un profesor hace 30 veces el mismo examen te aseguro que en la octava vez sacas 20”, esta fue la forma más simple de entender la creación de una deepfake.
Cualquier persona puede realizarla, el proceso es simple, hay que buscar tantas imágenes como se pueda, luego se le da a la IA todos los recursos y detalles posibles, para que al final del proceso el resultado sea tan exacto que la tecnología logrará engañar al ojo humano y terminará por “desdibujar la realidad”.
Casos emblemáticos
A lo largo de los últimos años, esta tecnología dejó de ser una curiosidad para convertirse en protagonista de escándalos mundiales. No se trata solo de bromas en internet; son herramientas que han puesto en jaque la confianza de millones de personas.
A continuación, se presenta los cinco ejemplos que marcaron un antes y un después en la historia de las deepfakes:
1. Barack Obama y el mensaje de advertencia (2018)
Fue uno de los primeros casos en hacerse viral a nivel mundial. El cineasta Jordan Peele utilizó IA para poner sus palabras en la boca del expresidente, advirtiendo sobre los peligros de creer ciegamente en lo que vemos en la red.
2. Volodímir Zelenski y la «rendición» (2022)
En plena invasión a Ucrania, circuló un video del presidente pidiendo a sus tropas que bajaran las armas. Fue el primer gran ejemplo del uso de esta tecnología como arma de guerra psicológica en un conflicto real.
4. Tom Cruise en TikTok (DeepTomCruise, 2021)
Un creador digital asombró al mundo con videos del actor haciendo trucos de magia. El realismo fue tan perfecto que obligó a las plataformas digitales a acelerar sus políticas de detección de medios sintéticos.
3. El Papa Francisco y el abrigo de Balenciaga (2023)
Una imagen del Sumo Pontífice luciendo una moderna chaqueta blanca engañó a millones de personas. Aunque parecía inofensiva, demostró que la IA ya puede crear imágenes estáticas imposibles de distinguir de una fotografía real.
5. Morgan Freeman y el rostro de la IA (2022)
En este video, el actor parece hablar directamente a cámara mientras su rostro se transforma suavemente en el de otras personas. Es considerado uno de los trabajos técnicos más limpios por la perfección de su voz y gestos.
La contraofensiva tecnológica
El uso de la tecnología para generar noticias falsas, es un problema para la sociedad, pero aún más para los periodistas. Ante esto, surge una pregunta, ¿cómo se combate las deepfakes?
Ante esta situación, las empresas tecnológicas y de ciberseguridad más famosas del mundo crearon sistemas avanzados para detectar las deepfakes. Entre las más destacadas están Intel y SentinelOne, las cuales se defienden de estos videos y audios que pueden afectar de manera directa la reputación de las propias empresas.
Para defenderse, estas empresas utilizan los siguientes sistemas tecnológicos:
• Intel y la prueba de vida: Su sistema, llamado FakeCatcher, actúa como un médico ante los videos falsos. Este analiza el flujo sanguíneo en los rostros de los videos; busca ese cambio sutil de color en la piel que ocurre cuando el corazón late, algo que las deepfakes todavía no pueden imitar.
• SentinelOne y el rastro digital: Esta empresa se enfoca en los errores en los píxeles. Su software detecta sombras inconsistentes o movimientos de ojos que no siguen una lógica humana natural, luego alerta sobre la manipulación en tiempo real.
IA
Además de estas dos empresas, hay algo más curioso aún, ya que no solo los son estas empresas que luchan, hay inteligencias artificiales diseñadas específicamente para detectar la falsedad en los medios sintéticos. Puede parecer irónico que una IA se defienda de otra IA, pero esto indica que la tecnología tiene varios caminos, el problema real es quién y cómo la usa. Sensity AI es un ejemplo:
• Sensity AI y el escaneo de redes: Esta inteligencia funciona como un radar que rastrea internet para identificar videos manipulados de figuras públicas antes de que se vuelvan virales, comparándolos con bases de datos de rostros reales. Además, tiene una web abierta donde cualquier persona puede subir un archivo y detectar, en pocos segundos, si un video o audio ha sido alterado.
Una de las estrategias para las personas es utilizar estos detectores de noticias falsas, pero también hay muchas características en las que se puede alguien guiar para no caer en el engaño. Algunas pueden ser: evaluar la calidad del video minuciosamente, observar los ambientes y las facciones de la cara en busca de algo que no cuadre.
El periodismo contra las deepfakes
Tras comprender lo simple que es crear una deepfake, uno de los campos más afectados por ellas, es el periodismo, este es el encargado de llevar noticias verdaderas y sobre todo chequeadas a las personas, ya que, si la difusión falsa de noticias será dada a las personas por parte de los periodistas todo va por mal camino.
Los comunicadores son agentes sociales y su trabajo es garantizar que la información que se difunde sea verdadera, por lo cual, ellos deben usar estas herramientas tecnológicas para verificar los videos y noticias que publican. Además de utilizar técnicas como el fact-ckecking y la contrastación de fuentes.
Todo experto en la comunicación debe estar empapado en el aspecto tecnológico, ya que, si conocen a profundidad los daños y las virtudes de ella, podrán usar a su favor la herramienta que domina al mundo entero, un periodista desactualizado e incapaz de defenderse ante las deepfakes y la desinformación es un profesional carente de habilidades.
Además, en un mundo tan competitivo, como el digital, el que no esté al tanto de lo nuevo, pierde capacidades, es allí donde entra el que los periodistas deben informarse, si no se sabe cuánto daño puede hacer una amenaza, no se sabrá cómo defenderse.
Para finalizar, el ingeniero Royman Valbuena hizo una reflexión sobre el tema, dijo así: “las deepfakes buscan desdibujar la realidad de las personas”, además dijo que si las personas logran saber cuándo dudar y negarse podrán tener el control de lo que ven en todo momento.
Al cambiar la realidad del mundo, las deepfakes pueden convertirse en una herramienta de manipulación masiva. La sociedad debe tener el poder para saber qué es lo que pasa. Si la lucha es ardua todo se podrá controlar.
Por Jonatan Araujo estudiante de la cátedra de Periodismo Científico de la URBE
Manténgase conectado e informado en cada una de nuestras plataformas:
Instagram: notiprimicia
WhatsApp: NotiPrimicia
Telegram: NotiPrimicia
YouTube: @NotiPrimicia
TikTok: @notiprimicia
