La empresa de inteligencia artificial Anthropic alertó sobre los riesgos asociados al desarrollo de sistemas capaces de diseñar y construir versiones más avanzadas de sí mismos, una práctica conocida como “automejora recursiva”, y propuso una desaceleración coordinada del avance tecnológico para evitar que los humanos pierdan el control sobre estas herramientas.
La compañía explicó que las empresas líderes del sector ya delegan cada vez más tareas a los propios sistemas de IA para acelerar el trabajo de ingenieros e investigadores. Como ejemplo, señaló que gran parte del código utilizado en sus proyectos es generado por Claude, mientras los especialistas supervisan y validan los resultados.
Según Anthropic, si esta tendencia continúa y los sistemas disponen de suficiente capacidad de procesamiento, podrían llegar a desarrollar de manera autónoma a sus propios sucesores, reduciendo progresivamente la intervención humana en el proceso de innovación tecnológica.
Aunque la empresa aclaró que la industria aún no ha alcanzado ese escenario, advirtió que la llegada de modelos con capacidades de automejora podría producirse antes de que gobiernos, instituciones y organismos reguladores estén preparados para gestionar sus implicaciones.
La tecnológica reconoció que una IA capaz de autoconstruirse tendría aplicaciones de gran impacto en áreas como la investigación científica, la medicina y otros sectores estratégicos. Sin embargo, sostuvo que también incrementaría la posibilidad de que los seres humanos pierdan capacidad de supervisión sobre sistemas cada vez más complejos.
Ante este panorama, Anthropic consideró necesario crear condiciones que permitan ralentizar o incluso pausar temporalmente el desarrollo de modelos de IA de vanguardia, con el objetivo de dar tiempo a que la investigación en seguridad y alineación tecnológica avance al mismo ritmo que las capacidades de estos sistemas.
La compañía insistió en que cualquier desaceleración debe estar respaldada por mecanismos de coordinación internacional. Entre las propuestas planteadas figura la creación de herramientas que permitan verificar que todos los desarrolladores de IA cumplen de manera simultánea con eventuales acuerdos de pausa o ralentización.
Anthropic adelantó que trabajará junto a investigadores, responsables políticos, organizaciones civiles y empresas del sector para diseñar estos mecanismos de supervisión global. Asimismo, publicará próximamente los resultados de sus investigaciones sobre la automejora recursiva y los posibles modelos de gobernanza para afrontar este desafío tecnológico.
