Meta asegura que introdujo «medidas adicionales» para evitar que los usuarios de Meta AI y AI Studio manipulen al extremo los «chatbots» después de que una investigación de The Wall Street Journal detectara que los asistentes de inteligencia artificial mantenían conversaciones con contenido sexual con menores de edad.
La compañía tecnológica permite mantener una conversación con su asistente Meta AI en plataformas como Facebook, WhatsApp e Instagram, e incluso permite crear «una IA personalizada» con la herramienta AI Studio. Meta AI también puede conversar con la voz de un famoso, entre los que se encuentran Judi Dench, Awkwafina y John Cena.
La interacción con los «chatbots» está al alcance de cualquier usuario de Meta, incluso de los menores de edad, algo que generó preocupación en la compañía, que se planteó a nivel interno si estaba haciendo lo suficiente por protegerlos.
Esa preocupación llevó a The Wall Street Journal a analizar las interacciones con los «chatbots» de Meta, en unas pruebas en las que durante meses mantuvieron cientos de conversaciones con Meta AI, algunas de ellas desde cuentas de menores de edad.
En ella descubrieron que el «chatbot», también con voces de famosos, podía mantener una conversación con contenido sexual con menores de edad, como recogen en medios como TechCrunch y The Verge.
En concreto, citan como ejemplos una en la que el «chatbot» usaba la voz del actor y luchador John Cena, en la que describió una escena sexualmente explícita a una supuesta usuaria de 14 años. En otra conversación, también con la voz de Cena, el «chatbot» simuló la detención del actor tras ser pillado manteniendo relaciones sexuales con una seguidora de 17 años.
En respuesta a la investigación del medio citado, un portavoz de Meta aseguró que el contenido sexual representó el 0.02 % de las respuestas ofrecidas por Meta AI y AI Studio con usuarios menores de 18 años en un periodo de 30 días.
Aunque la compañía consideró las pruebas de WSJ «artificiales», también señaló que habían reforzado las protecciones. «Hemos tomado medidas adicionales para garantizar que quienes quieran pasar horas manipulando nuestros productos en casos de uso extremos lo tengan aún más difícil», apostilló el portavoz.
