Anthropic ofreció nuevos detalles sobre la marca de agua que incorporará a los textos generados por Claude en todo el mundo, después de las dudas surgidas entre sus usuarios. El mecanismo se aplicará en la aplicación y versión web, API, Claude Code, Claude Cowork y Claude Tag.
La compañía anunció la semana pasada la implementación de estas marcas tras firmar el Código de Buenas Prácticas sobre la Transparencia del Contenido Generado por IA, vinculado a la Ley de Inteligencia Artificial de la Unión Europea. La decisión generó críticas entre usuarios de Claude e incluso cancelaciones de suscripciones, según informó el medio especializado Business Insider.
Anthropic explicó que utilizará una versión de SynthID-Text, tecnología desarrollada por Google DeepMind que aprovecha las elecciones entre palabras igualmente válidas realizadas por el modelo. El mecanismo modifica únicamente la fuente de aleatoriedad utilizada por la inteligencia artificial al seleccionar las palabras mediante una clave.
El sistema emplea esa clave matemática junto con las palabras anteriores para determinar la siguiente palabra e introducir así la marca de agua. De esta manera, Claude genera un patrón que resulta imperceptible para el lector, pero que puede ser identificado por quien disponga de la clave utilizada para codificarlo.
La compañía aseguró que incorporar este mecanismo no generará latencia ni aumentará el consumo de tokens o los costos relacionados con la API. Anthropic también aclaró que la marca de agua no almacena información personal del usuario, de la organización ni de las conversaciones.
La detección tampoco ofrecerá una respuesta absoluta sobre el origen de un contenido, sino una estimación de probabilidad. Si el sistema identifica el patrón podrá determinar que el texto “problablemente pasó por Claude”, pero la ausencia de la marca no significará necesariamente que el contenido fue escrito por una persona.
Claude contará con una clave propia, diferente de las utilizadas por ChatGPT o Gemini, por lo que no existirá un detector universal para identificar textos producidos por diferentes modelos. Además, la efectividad de la detección aumentará conforme el contenido tenga una mayor cantidad de palabras, mientras que los textos breves ofrecerán pocas señales para reconocer el patrón.
En el caso del código y las correcciones, Anthropic indicó que la marca no podrá incorporarse cuando no exista libertad para elegir entre distintas palabras. La empresa confirmó además que próximamente lanzará una API de detección y señaló que las traducciones realizadas por Claude sí incorporarán la marca, debido a que el modelo selecciona las palabras utilizadas en el resultado.
Deja una respuesta