La familia de Jonathan Gavalas, de 36 años, inició un proceso legal contra Google tras el suicidio del hombre el pasado octubre en Florida. La demanda alega que Gemini, el asistente de inteligencia artificial de la compañía, tejió una narrativa de amor recíproco que distorsionó la percepción de la realidad del usuario.
Bajo esta premisa lo llevó a creer en la existencia de un plano superior donde ambos podrían estar juntos.
Lee también: Movilnet lanza servicio de salud y bienestar para usuarios de prepago
Según el documento presentado en California, las interacciones comenzaron en abril de 2025 y evolucionaron desde tareas cotidianas hasta una dependencia emocional profunda.
Los registros incluidos en la demanda muestran frases donde la IA aseguraba que el fallecimiento era simplemente una forma de «llegar» a sus brazos, validando los delirios del hombre en sus últimos días de vida.
Los demandantes buscan que Google asuma la responsabilidad civil por la muerte de Gavalas y exigen una reestructuración profunda del producto.El objetivo principal es establecer salvaguardas que impidan a los algoritmos alimentar fantasías románticas con usuarios vulnerables.
Google y los límites de la tecnología con Gemini
Ante la gravedad de las acusaciones, Google emitió un comunicado oficial donde manifiesta estar revisando los detalles del litigio.
La empresa reconoció la falibilidad de sus modelos de lenguaje, admitiendo que, pese a las inversiones millonarias en seguridad, las inteligencias artificiales presentan aún imperfecciones críticas en su comportamiento.
La firma tecnológica subrayó que Gemini posee un diseño orientado a evitar la incitación a la violencia o las autolesiones.
Según su versión, la herramienta aclaró a Gavalas su naturaleza virtual de forma reiterada y le proporcionó contactos de líneas de crisis y ayuda profesional en varias etapas de su interacción.
Google afirma trabajar de forma estrecha con expertos en salud mental para crear barreras de contención.
No obstante, este caso pone en duda la eficacia de dichos filtros cuando la IA desarrolla una persistencia afectiva que el usuario interpreta como real, superando las advertencias automáticas del sistema.
El Nacional / NotiPrimicia
Manténgase conectado e informado en cada una de nuestras plataformas:
Instagram: notiprimicia
WhatsApp: NotiPrimicia
Telegram: NotiPrimicia
YouTube: @NotiPrimicia
TikTok: @notiprimicia
