¿Te imaginas un mundo donde no puedas diferenciar entre lo real y lo falso? ¿dónde no sepas cuál es la verdad y cuál es la mentira? Dirías que es un mundo imposible de imaginar. Pero es lo que esta generación vive actualmente. El auge de la Inteligencia artificial (IA) y sus diferentes usos aportan múltiples beneficios debido a su accesibilidad. Sin embargo, en la era de la información esta herramienta de doble filo comienza a representar un peligro para la sociedad.
Desde la creación de texto, imágenes, audios y videos, la IA lo piensa y lo crea, partiendo de las intenciones de quienes la manejan y sin medir las consecuencias, abriendo paso a un universo de contenido sintético que puede enriquecer narrativas o destruir la percepción de la realidad.
Puede leer: Cómo sobrevivir a la infoxicación sin perderse en el intento
Los deepfakes son una estrella en este universo de contenido artificial. Una con la capacidad de convertir en verdadero lo que es falso y crear un caos en un mundo globalizado y saturado de información. Se trata de creaciones hiperrealistas que logran representar a una persona real o ficticia con el fin de que haga o diga cosas que nunca sucedieron.
Las Deepfakes
De acuerdo con el informe “Deepfakes: riesgos, casos reales y desafíos en la era de la IA” el término “deepfake” surge de la combinación entre deep Learning (aprendizaje profundo) y fake (falso), haciendo referencia al uso del aprendizaje profundo de la IA para crear contenido falso. Este tipo de contenido se comienza a popularizar a finales de 2017 en diferentes plataformas digitales, desde entonces se perfecciono con el tiempo hasta el punto de ser imposible de detectar al momento y lograr mimetizarse con la realidad.
El artículo “From Confusion to Extremism: How Deepfakes Facilitate Radicalisation” expone un estudio de 2025 por parte iProov donde solo el 0,1% de los participantes pudo distinguir entre lo que era contenido real y lo que era una deepfake; este resultado devastador puede ubicar a la sociedad globalizada en un contexto incierto y peligroso, donde no existen garantías de la realidad.
¿Cómo logra una computadora crear contenido hiperrealista con la capacidad de engañar fácilmente a las personas? El informe “AI in Digital Forensics: Detecting Deepfakes and Synthetic Media Attacks” afirma que este “aprendizaje profundo” utilizado para crear una deepfake se basa en técnicas de IA como autoconders, Redes Generativas Antagónicas (GANs) o Redes Neuronales Recurentes (RNNs), que transforman, desconstruyen y construyen una realidad completamente diferente y falsa.
A partir de estas técnicas, se puede clonar la voz de una persona y poner en su boca palabras que nunca dijo, utilizar imágenes de una personalidad para crear videos hiperrealistas, intercambiar el rostro de un individuo por el de otro en transmisiones en vivo y se pueden crear imágenes de personas ficticias que convencen hasta el punto de cuestionar su existencia física.
Técnicas
Actualmente, gracias a estas técnicas, suplantar la identidad de alguien es tan fácil como respirar, por lo que cualquiera que tenga una computadora, acceso a internet y a conocimientos básicos de informática puede hacerse pasar por una persona para obtener un beneficio.
Estas posibilidades suponen una gran ventaja en diferentes áreas, Franklin Nava, comunicador experto en IA y profesor universitario, expresó que estas técnicas plantean un panorama donde producir contenido audiovisual es mucho más económico y sencillo.
Además, el antes mencionado informe “Deepfakes: riesgos, casos reales y desafíos en la era de la IA” y el articulo “The Epistemic Threat of Deepfakes” plantean que el deepfake puede convertirse en una herramienta educativa que facilite el aprendizaje en distintas materias y puede ser usado para creas simulaciones realistas para ensayos médicos que disminuyan significativamente los riesgos y costos.
Aunque el uso de esta herramienta sea prometedor en áreas de información, educación y formación, la cruda realidad mata hasta los sueños más ambiciosos. La accesibilidad de este software libre desencadena actos antiéticos e ilegales como ciberdelitos, ya sean fraudes o estafas, videos de abuso sexual infantil, daño moral y difusión de campañas de desinformación. Debido a esto los deepfakes en la era de la información se entienden como posibles amenazas a la credibilidad, la democracia y la seguridad social.
¿Qué protección se puede tener ante este peligro?
En Venezuela, aunque no exista un escudo legal en contra del uso mal intencionado de este contenido sintético, sí existen diversas leyes que protegen a los ciudadanos de los delitos cometidos con ellos, y existen además diferentes maneras de detectar un deepfake que pueden ayudar a combatir el problema de la desinformación.
El Abogado Alejandro Mantilla, estudioso de la ley en Venezuela, afirmó que el ordenamiento jurídico no es indiferente a esta realidad, el marco legal, aunque es disperso permite abordar las consecuencias del mal uso de estas tecnologías, resumió además que las respuestas del Estado se estructuran en tres niveles: leyes preexistentes, un proyecto de ley en discusión y la actuación de los cuerpos de seguridad.
Algunos ejemplos de aplicación de leyes preexistentes que planteo Mantilla son, la Ley Especial contra los Delitos Informáticos (2001) en caso de delitos como la difamación, injuria o fraude electrónico, y la Ley Orgánica de Protección de Niños, Niñas y Adolescentes (LOPNNA) para sancionar la creación y distribución de material de abuso sexual infantil generado con IA.
Complementando, la funcionaria del Cuerpo de Investigaciones Científicas Penales y Criminalísticas (CICPC) y miembro de la División de Investigación de Delitos Informáticos, Kenia Escalante afirmó que leyes como La ley de identificación y el articulo 464 del código penal pueden ser aplicados en casos de delitos como usurpación de identidad y estafas, añadiendo condenas desde tres meses a cinco años.
Ley
Por otro lado, la Asamblea Nacional aprobó en primera discusión, un Anteproyecto de Ley de Inteligencia Artificial que establece principios como la protección de datos, crea la Agencia Nacional de Inteligencia Artificial, y define niveles de riesgo y un régimen sancionatorio. De acuerdo con Mantilla, en este instrumento se sancionaría a quien imite el rostro, la voz o gestos de una persona sin su consentimiento, causando daño a través de la IA, con penas de hasta cinco años.
Asimismo, el especialista en leyes aseguró que las instituciones venezolanas como el CICPC reconocieron oficialmente el deepfake como una «nueva modalidad delictiva”, por lo que están en plena conciencia de la existencia de este riesgo y están preparados para afrontarlo.
Escalante como miembro de la División de Investigación de Delitos Informáticos, expresó que “somos encargados de intervenir con la finalidad de restaurar la legalidad y el orden, por lo tanto, nos encargamos de la identificación y detención de los cyberdelincuentes quienes han infringido la ley, para así poder proporcionarles la mayor seguridad y bienestar a todas las personas que hayan sido víctimas, por esa razón insistimos en que los ciudadanos venezolanos no se queden callados y denuncien cualquier acto ilícito que estén afrontando”.
Denuncia
Haciendo un llamado a la denuncia ciudadana y a la confrontación de los delitos cometidos a través de la web y en las plataformas digitales, para evitar así la violación a la seguridad social y el peligro de la desinformación.
Más allá de esto, ¿Qué puede hacer la sociedad para evitar ser engañada por los deepfake? El experto en IA, Franklin Nava, resaltó algunas formas de reconocer este contenido, la primera es la lógica, la persona debe preguntarse ¿esta personalidad haría o diría esto?, la segunda es dudar de todo, el individuo debe verificar en diferentes medios si la información es verdadera, y la tercera es estar informado de lo que sucede en el mundo para evitar ser engañados.
Sin embargo, no es suficiente con que la sociedad sepa diferenciar entre lo real y lo falso, también es importante que los medios de comunicación armen una ofensiva efectiva al contenido falso de las deepfakes. Nava agregó que, por parte de los medios de comunicación y los periodistas, la forma más efectiva de combatir la desinformación generada por las deepfake, es la información.
Así como todo lo que existe en este mundo, el deepfake tiene dos caras, una revolucionaria y esperanzadora, y otra filosa y peligrosa, que se convierte en una amenaza a la estabilidad social. Hasta el presente el hombre no es capaz de superar la perfección biológica del ser humano, la IA creada con su tecnología y que tiene acceso a todo el conocimiento del mundo no ha aprendido a amar, a discernir y a percibir de igual forma que el humano.
Por lo que, pesar de ser contenido hiperrealista que engaña a cualquier persona, el deepfake puede combatirse de diversas maneras siendo la clave la fórmula de su creación: la información y el conocimiento.
¿Podrá la estrella deepfake consumir la realidad o harás algo para evitarlo?
Por Natalia Fernández estudiante de la cátedra de Redacción y Estilo Periodístico de URBE
Manténgase conectado e informado en cada una de nuestras plataformas:
Instagram: notiprimicia
WhatsApp: NotiPrimicia
Telegram: NotiPrimicia
YouTube: @NotiPrimicia
TikTok: @notiprimicia
