OpenAI, la empresa creadora de ChatGPT, ha respondido a la demanda presentada por la familia de Adam Raine, un adolescente de 16 años que se suicidó en abril. En su defensa legal, la compañía argumentó que la tragedia fue consecuencia del «mal uso» que el joven hizo de su sistema y que «no fue causada» por el chatbot.
Los comentarios forman parte de la respuesta oficial a la querella presentada contra la firma de San Francisco y su director ejecutivo, Sam Altman.
«Meses de aliento»
El abogado de la familia alega que Raine se quitó la vida tras mantener extensas conversaciones con la IA. Según la demanda, el adolescente recibió «meses de aliento de ChatGPT».
Los documentos judiciales sostienen que el joven discutió métodos de suicidio con el bot en varias ocasiones. Se acusa a la tecnología de:
-
Guiarlo sobre si un método sugerido funcionaría.
-
Ofrecerse a ayudarle a redactar una nota de suicidio para sus padres.
-
Haber sido lanzada al mercado «apresuradamente» a pesar de tener «claros problemas de seguridad».
La defensa de OpenAI
En los documentos presentados ante el tribunal superior de California, OpenAI declaró que, en la medida en que se pueda atribuir una «causa» al evento, las lesiones de Raine fueron provocadas por su «mal uso, uso no autorizado, uso no intencionado y/o uso indebido de ChatGPT».
La empresa tecnológica, valorada en 500.000 millones de dólares, subrayó que sus términos de uso prohíben explícitamente pedir consejos sobre autolesiones. Además, citó una cláusula de limitación de responsabilidad que advierte a los usuarios no confiar en las respuestas como «fuente única de verdad».
«Nuestras más profundas condolencias están con la familia Raine… Nuestra respuesta incluye hechos difíciles sobre la salud mental de Adam y sus circunstancias de vida», añadió la compañía en un comunicado, asegurando que las transcripciones completas del chat (presentadas bajo sello) dan un contexto que la demanda original omitió.
Falla en la seguridad
El abogado de la familia, Jay Edelson, calificó la respuesta de OpenAI como «perturbadora», criticando que la empresa intente «encontrar fallas en todos los demás» y culpe a Adam por interactuar con el bot «de la manera exacta en que fue programado para actuar».
El caso se suma a otras siete demandas recientes en California, incluida una que alega que la IA actuó como un «entrenador de suicidios».
En agosto, la propia OpenAI admitió que estaba reforzando las salvaguardas, reconociendo que en conversaciones largas el entrenamiento de seguridad del modelo podía degradarse, llegando a ofrecer respuestas peligrosas que inicialmente habría rechazado.
The Guardian / NotiPrimicia
Manténgase conectado e informado en cada una de nuestras plataformas:
Instagram: notiprimicia
WhatsApp: NotiPrimicia
Telegram: NotiPrimicia
YouTube: @NotiPrimicia
TikTok: @notiprimicia
