El empresario Elon Musk propuso que las principales compañías dedicadas al desarrollo de inteligencia artificial (IA) permitan que sus competidores sometan sus modelos a evaluaciones de seguridad, como una medida para identificar posibles riesgos asociados con el rápido avance de esta tecnología.
El director ejecutivo de Tesla y SpaceX planteó la iniciativa durante una intervención remota en la All-In Summit, celebrada en Los Ángeles y que reúne a responsables de algunas de las principales compañías vinculadas al desarrollo de inteligencia artificial. «Creo que lo más sensato sería, cuanto antes —si no de inmediato—, que los principales competidores en IA probaran los modelos de los demás; de este modo, los sistemas de pruebas de seguridad de cada empresa evaluarían los modelos de todas las demás», explicó Musk.
El magnate mencionó específicamente a su compañía xAI, OpenAI, Anthropic, Google y Meta, además de «tres o cuatro de las principales compañías chinas», entre las empresas que, a su juicio, deberían permitir evaluaciones cruzadas de sus sistemas de inteligencia artificial, según información citada por CNBC.
Musk considera que permitir el análisis de los modelos por parte de compañías rivales ofrecería una evaluación adicional sobre los posibles riesgos de cada sistema. «En lugar de corregir tu propia tarea, al menos tendrías a competidores evaluándola y dando la voz de alarma si detectan algún motivo de preocupación», indicó el dueño de xAI.
La propuesta surge en momentos en que responsables de importantes laboratorios de inteligencia artificial han expresado preocupaciones sobre la velocidad con la que evoluciona esta tecnología y la capacidad de las medidas de seguridad para avanzar al mismo ritmo.
Entre las figuras que plantearon la necesidad de reducir el ritmo de desarrollo del sector figuran Dario Amodei, de Anthropic; Sam Altman, de OpenAI; y Demis Hassabis, de Google DeepMind. Los llamados buscan dar mayor margen al desarrollo de salvaguardas frente a los posibles riesgos asociados con sistemas de inteligencia artificial cada vez más avanzados.
Las advertencias también cobraron fuerza después de comentarios realizados por el investigador tecnológico Jacob Coxon, exempleado de Anthropic y OpenAI, quien planteó un escenario extremo en el que el desarrollo de la inteligencia artificial podría alcanzar niveles similares a los presentados en películas de ciencia ficción.
Coxon advirtió que la inteligencia artificial podría representar incluso un riesgo para la supervivencia humana antes de finalizar esta década. En este contexto, Musk plantea que la revisión de modelos entre compañías competidoras funcione como un mecanismo adicional para detectar posibles problemas de seguridad antes de que sistemas más avanzados sean desplegados.
Deja una respuesta