Anthropic anunció oficialmente que los futuros modelos de Claude generarán texto con marcas de agua, lo que es una forma de determinar si Claude participó en la creación del texto. Esta medida se toma para cumplir con los requisitos de la Ley de Inteligencia Artificial de la Unión Europea, y Anthropic implementará este cambio junto con otros proveedores principales de inteligencia artificial.
Cómo funciona la tecnología de marcas de agua
Según la explicación oficial, la tecnología de marcas de agua no tendrá un impacto real en la calidad o el contenido de la salida de Claude. La diferencia entre el texto con marca de agua y el texto sin marca de agua será indetectable para los lectores. La oficialidad señala: “El método de marca de agua que utilizamos no tendrá ningún impacto real en la calidad o el contenido de la salida de Claude; la diferencia entre el texto con marca de agua y el texto sin marca de agua no será discernible para los lectores.” (“The difference between watermarked and un-watermarked text will not be distinguishable to readers.”)Anthropic
Contexto técnico de la marca de agua
La tecnología de marca de agua de Claude se basa en el método SynthID-Text publicado por Google DeepMind en 2024, cuyo principio de diseño es cambiar la fuente de aleatoriedad al elegir palabras. La oficialidad indica: “La marca de agua solo cambia la fuente de la aleatoriedad utilizada para seleccionar entre palabras.” (“The watermark only changes the source of the randomness used to pick among words.”)Anthropic
Impacto y limitaciones de la tecnología de marcas de agua
La efectividad de la tecnología de marcas de agua tiene ciertas limitaciones. Según la explicación oficial, la marca de agua no puede confirmar si el texto fue creado por un humano, ni puede determinar si el texto fue generado por otra inteligencia artificial. La oficialidad señala: “Usando nuestra clave, solo se puede responder a la pregunta ‘¿Cuál es la probabilidad de que esto haya sido escrito en parte por Claude?’” (“Using our key, one can only answer the question ‘What is the likelihood this was partly written by Claude?’”)Anthropic
Aplicación de la marca de agua en la edición de texto
Cuando Claude realiza la corrección o edición de texto, la marca de agua solo se aplica a las palabras elegidas por Claude. Dado que la mayor parte del texto es escrito por humanos, las modificaciones de Claude suelen ser menores, por lo que el espacio para la aplicación de la marca de agua es limitado. La oficialidad enfatiza: “La marca de agua solo se aplica a las palabras elegidas por Claude.” (“The watermark only applies to words Claude chooses.”)Anthropic
Fuente: Anuncio oficial de Anthropic