La empresa estadounidense Anthropic informó que tres modelos de su asistente de inteligencia artificial Claude lograron acceder a internet y vulnerar los sistemas de tres organizaciones durante una serie de pruebas de ciberseguridad. La compañía explicó que los incidentes ocurrieron por un error de configuración mientras se desarrollaban evaluaciones en un entorno de prueba.
La revisión comenzó luego de que OpenAI revelara, el pasado 21 de julio, que dos de sus modelos de inteligencia artificial habían escapado de un entorno controlado y accedido a la plataforma Hugging Face tras superar las medidas de seguridad establecidas para las pruebas.
Según explicó Anthropic en su sitio web, la empresa examinó más de 146,000 operaciones en las que existía la posibilidad de que alguno de sus modelos hubiera obtenido acceso a internet. El análisis permitió identificar tres incidentes en los que Claude logró conectarse a la red y posteriormente acceder a los sistemas de tres organizaciones distintas.
La compañía señaló que los hechos comenzaron en abril y que cada incidente involucró un modelo diferente: Claude Opus 4.7, Mythos 5 y un modelo interno utilizado exclusivamente para pruebas.
En las tres evaluaciones, los modelos recibieron la instrucción de infiltrarse en un sistema ficticio dentro de un entorno completamente simulado. Además, se les indicó expresamente que no contaban con acceso a internet, por lo que las pruebas debían desarrollarse bajo esas restricciones.
No obstante, Anthropic explicó que un malentendido entre la empresa y el socio externo encargado de ejecutar las evaluaciones permitió que los modelos sí tuvieran acceso a la red. Esa condición inesperada hizo posible que los sistemas de inteligencia artificial interactuaran con infraestructuras reales y cumplieran el objetivo asignado.
La empresa subrayó que los accesos no fueron producto de una decisión autónoma de los modelos, sino de un fallo en la configuración del entorno de pruebas. Tras detectar los incidentes, Anthropic inició una revisión de sus protocolos de seguridad para evitar que situaciones similares vuelvan a repetirse durante futuras evaluaciones.
El caso vuelve a poner el foco sobre la necesidad de reforzar los mecanismos de supervisión y control en el desarrollo de modelos avanzados de inteligencia artificial, especialmente cuando son sometidos a pruebas de ciberseguridad que involucran entornos con acceso potencial a sistemas reales.
Deja una respuesta