Un ingeniero británico que trabajó durante tres años en OpenAI y actualmente formaba parte de Anthropic renunció a su puesto al considerar que las empresas de inteligencia artificial no están actuando con suficiente responsabilidad ante los riesgos de esta tecnología.
Jacob Coxon, de 27 años, explicó en un hilo publicado en X que existe preocupación dentro de la industria por la posibilidad de que sistemas de IA cada vez más avanzados representen una amenaza para la humanidad.
El ingeniero, identificado por medios especializados como uno de los desarrolladores que participaron en GPT-4o y GPT-4.5, aunque sin ocupar cargos ejecutivos, sostuvo que se está subestimando el alcance de los futuros sistemas de inteligencia artificial.
Jacob Coxon, el ingeniero de OpenAI y Anthropic que alertó sobre los riesgos de la ia
Pide frenar la carrera por la superinteligencia
Coxon afirmó que los modelos podrían convertirse próximamente en sistemas con capacidades superiores a las humanas, capaces de encontrar vulnerabilidades, transformar diferentes sectores y acumular recursos y poder.
A su juicio, OpenAI y Anthropic son conscientes de los desafíos, pero enfrentan dificultades distintas. Mientras consideró que OpenAI podría no haber asumido completamente las consecuencias de esta tecnología, señaló que Anthropic entiende los riesgos, pero está atrapada en la competencia por desarrollar primero sistemas cada vez más capaces.
El ingeniero planteó una mayor coordinación entre las empresas y los proyectos de inteligencia artificial. Entre las medidas que considera necesarias mencionó una pausa temporal en el incremento de las capacidades de los modelos.
También cuestionó a los investigadores que desarrollan sistemas de aprendizaje por refuerzo y pidió discutir si es responsable avanzar hacia una posible superinteligencia sin comprender suficientemente su funcionamiento.
Investigador de Anthropic eleva la alerta
Evan Hubinger, investigador de Anthropic, respondió a Coxon en X y coincidió con parte de sus advertencias.
Hubinger afirmó que dentro de la empresa existe una preocupación real sobre la posibilidad de que una inteligencia artificial avanzada pueda acabar con la humanidad. Según señaló, personalmente considera que existe una probabilidad superior al 10 % de que esto ocurra durante la próxima década.
Sin embargo, aclaró que considera bajo el riesgo asociado con los modelos actuales y situó la principal preocupación en una eventual superinteligencia derivada del automejoramiento recursivo, proceso que, según dijo, estaría avanzando más rápido de lo previsto.
Las advertencias de Coxon se suman a las de otros investigadores que han cuestionado el desarrollo acelerado de la inteligencia artificial. Entre ellos está Geoffrey Hinton, ganador del Nobel de Física, quien dejó Google en 2023 para poder hablar públicamente sobre los riesgos de esta tecnología.
Con información de SWI
Manténgase conectado e informado en cada una de nuestras plataformas:
Instagram: notiprimicia
WhatsApp: NotiPrimicia
Telegram: NotiPrimicia
YouTube: @NotiPrimicia
TikTok: @notiprimicia
