OpenAI anunció este lunes que incorporará marcas de agua invisibles en determinados textos generados mediante ChatGPT y Codex en la Unión Europea (UE), como parte de las medidas de la compañía para cumplir con la Ley de Inteligencia Artificial del bloque comunitario.
«Durante las próximas semanas, incorporaremos la marca de agua de texto para usuarios elegibles de ChatGPT y Codex de todos los planes, únicamente en la UE», especificó la compañía al explicar su nuevo enfoque sobre la «procedencia de contenido».
La empresa también indicó que desde este lunes los clientes de su interfaz de programación de aplicaciones (API) alrededor del mundo podrán activar voluntariamente las marcas de agua en los textos producidos por determinados modelos. La función permanecerá desactivada por defecto para permitir que cada cliente determine cómo utilizarla según sus «obligaciones de transparencia».
OpenAI señaló además que trabaja junto con proveedores de computación en la nube para «poner la marca de agua a disposición de las salidas de los modelos de OpenAI a las que se accede mediante sus servicios durante las próximas semanas», añadió.
La tecnología utilizada se denomina textGrain y funciona mediante la incorporación de una «señal estadística invisible» en las elecciones de palabras realizadas por el modelo. Este mecanismo aparentemente no modifica el rendimiento del sistema y posteriormente permite que un detector analice el contenido para determinar la posible presencia de la marca de agua.
Sin embargo, OpenAI reconoció limitaciones en el sistema de detección, ya que puede producir falsos positivos o falsos negativos y ofrecer un menor rendimiento con textos breves. La señal también puede debilitarse cuando el contenido generado originalmente es editado, reescrito o traducido.
Debido a esas limitaciones, el «detector» estará disponible únicamente para «investigadores y organizaciones expertas aprobados», quienes podrán presentar solicitudes para acceder a la herramienta. La marca de agua servirá para ayudar a establecer si un texto fue generado por un modelo de OpenAI, pero no determinará «quién escribió originalmente el texto ni quién es su propietario».
La compañía también planea ofrecer públicamente la tecnología textGrain como código abierto «para que otros puedan desarrollarla». Con la incorporación de estas marcas invisibles, OpenAI busca ampliar las herramientas destinadas a identificar la procedencia de determinados contenidos producidos mediante sus modelos de inteligencia artificial.