La empresa estadounidense de inteligencia artificial Anthropic advirtió que los sistemas de IA podrían alcanzar en los próximos años la capacidad de diseñar y desarrollar versiones más avanzadas de sí mismos sin intervención humana, un escenario que considera de alto impacto para la sociedad.
La compañía señaló que el avance de la denominada “automejora recursiva” podría permitir que una inteligencia artificial cree a su propio sucesor, acelerando significativamente la evolución tecnológica y planteando nuevos desafíos en materia de control y seguridad.
En una publicación divulgada este jueves, Anthropic explicó que cada vez utiliza más herramientas de IA para desarrollar sus propios sistemas, una tendencia que se ha intensificado con el aumento de la capacidad de computación y el rendimiento de los modelos avanzados.
Según la empresa, este escenario podría generar importantes beneficios para áreas como la ciencia, la medicina y la investigación, pero también aumentar el riesgo de que los seres humanos pierdan capacidad de supervisión sobre sistemas cada vez más sofisticados.
La firma considera que la posibilidad de que una IA diseñe completamente a otra IA hace más urgente el desarrollo de mecanismos de seguridad, supervisión y alineación que permitan mantener el control de estas tecnologías.
Anthropic plantea una posible pausa global
Ante este panorama, la compañía sugirió que el mundo debería contemplar la posibilidad de ralentizar temporalmente el desarrollo de la inteligencia artificial más avanzada para permitir que la investigación y las instituciones se adapten al ritmo de los cambios tecnológicos.
Anthropic indicó que una eventual pausa tendría que estar respaldada por acuerdos internacionales, mecanismos de verificación y criterios claros sobre cuándo activarla, quién la supervisaría y bajo qué condiciones podría levantarse.
La propuesta busca evitar que algunos desarrolladores continúen avanzando mientras otros detienen sus investigaciones, una situación que, según la empresa, podría favorecer a actores que no respeten las normas acordadas.
El documento fue firmado por el cofundador de Anthropic, Jack Clark, y la directora de The Anthropic Institute, Marina Favaro.
Claude ya participa en gran parte del desarrollo
La compañía también reveló que su modelo de inteligencia artificial Claude desempeña actualmente un papel cada vez más importante en el desarrollo interno de software.
De acuerdo con los datos compartidos por Anthropic, más del 80 % del código que hoy se incorpora a su base tecnológica es generado por Claude. Hace poco más de un año, esa cifra era inferior al 10 %.
Para la empresa, esta evolución muestra la velocidad con la que están mejorando los sistemas de IA y refuerza la necesidad de debatir cómo gestionar tecnologías que podrían alcanzar niveles de autonomía sin precedentes.
Agencias
Manténgase conectado e informado en cada una de nuestras plataformas:
Instagram: notiprimicia
WhatsApp: NotiPrimicia
Telegram: NotiPrimicia
YouTube: @NotiPrimicia
TikTok: @notiprimicia
