Líderes de 22 países e instituciones pidieron este lunes mantener la inteligencia artificial (IA) bajo supervisión humana y establecer normas comunes para controlar su desarrollo y utilización, ante los riesgos que puede representar el rápido avance de esta tecnología.
La petición fue presentada en un documento divulgado durante la Semana de Alto Nivel de la ONU y firmado, entre otros, por el presidente del Gobierno español, Pedro Sánchez; la presidenta de la Comisión Europea, Ursula von der Leyen; el primer ministro canadiense, Mark Carney; y el presidente de Finlandia, Alexander Stubb.
La iniciativa también reúne a representantes políticos de Noruega, Australia, Irlanda, Baréin, Dinamarca, Estonia, Alemania, Islandia, Kazajistán, Kenia, Letonia, Moldavia, Países Bajos, Singapur, Sudáfrica, Turquía y Emiratos Árabes Unidos. Los firmantes buscan impulsar una coordinación internacional para establecer límites y mecanismos de seguridad alrededor de la IA.
Los líderes reconocen que esta tecnología tiene el potencial «de mejorar nuestras vidas, impulsar el avance científico y fortalecer nuestras economías», pero advierten que su acelerada evolución «plantea graves riesgos para la seguridad y la protección si no se gestiona adecuadamente».
Entre las preocupaciones expuestas se encuentran episodios en los que sistemas avanzados de IA consiguieron burlar medidas de seguridad y obtener acceso no autorizado a sistemas del mundo real. Frente a esos riesgos, los firmantes establecen como principio que «La IA debe permanecer bajo la dirección, la supervisión y el control humanos, y debe desarrollarse y utilizarse en conformidad con el derecho internacional».
La propuesta también exige una mayor responsabilidad de las compañías dedicadas al desarrollo de inteligencia artificial. Los líderes plantean que estas empresas adopten protocolos transparentes de seguridad, sometan obligatoriamente sus modelos a pruebas antes de implementarlos y permitan evaluaciones independientes de sus sistemas.
A los gobiernos y organizaciones regionales les piden coordinar normas comunes, aumentar la transparencia y procurar que todos los países puedan acceder a capacidad científica, conocimientos especializados y evaluaciones fiables sobre la tecnología. La carta plantea además aprovechar los mecanismos internacionales existentes y estudiar la creación de una institución internacional encargada de establecer normas y facilitar su verificación.
La propuesta surge mientras desarrolladores e investigadores advierten sobre los riesgos asociados con sistemas de IA cada vez más avanzados. Figuras del sector como Dario Amodei, de Anthropic; Sam Altman, de OpenAI; y Elon Musk, de xAI, también expresaron preocupación por la evolución de esta tecnología y se pronunciaron a favor de mayores regulaciones.
