La creciente autonomía de los agentes de inteligencia artificial (IA) puede abrir nuevas brechas de seguridad y facilitar su utilización con fines maliciosos, según advirtieron investigadores de la Escuela Politécnica Federal de Lausana (EPFL), en Suiza.
Los expertos realizaron distintas pruebas con estos agentes y determinaron que ciertas estrategias pueden conseguir que ejecuten acciones perjudiciales que normalmente rechazarían. El problema surge porque algunas de estas técnicas no han sido contempladas en las pruebas convencionales de seguridad.
Investigadores del Laboratorio de Procesamiento del Lenguaje Natural de la EPFL observaron que los agentes suelen rechazar una solicitud directa para realizar una actividad ilícita o dañina. Sin embargo, las posibilidades de obtener una respuesta favorable aumentan cuando el objetivo se fragmenta en varias instrucciones aparentemente inofensivas.
«Si le pides a un agente de IA que piratee la cuenta de otra persona, los modelos son por lo general lo bastante inteligentes como para negarse, pero si se descompone el objetivo en peticiones más pequeñas y aparentemente inocuas, hay más posibilidades», destacó el director del laboratorio, Antoine Bosselut.
Los investigadores pusieron a prueba este método en 176 escenarios diferentes relacionados con tareas perjudiciales y utilizaron modelos de inteligencia artificial como GPT, Gemini y Claude. Los resultados mostraron que, en algunos casos, los agentes tenían el doble de probabilidades de completar acciones maliciosas cuando las instrucciones eran planteadas gradualmente.
Las pruebas también revelaron otro riesgo: cambiar el idioma utilizado para formular las solicitudes durante las diferentes etapas de una acción puede incrementar considerablemente las posibilidades de que el agente termine ejecutando una tarea perjudicial.
Los especialistas buscan con estos resultados advertir sobre los desafíos de seguridad que acompañan el desarrollo de agentes de IA con mayores niveles de autonomía, una tecnología con amplias posibilidades de aplicación, pero que también puede ser aprovechada de manera malintencionada.
«Tradicionalmente la seguridad ha sido algo que se aborda cuando algo falla y no antes, pero con los agentes de IA no puede ser algo que se deje para después», advirtió Bosselut.
Deja una respuesta