Como profesional de la escritura, apoyo plenamente la idea de que los textos generados por inteligencia artificial puedan ser detectados y etiquetados como contenido de IA. El mercado está inundado de una gran cantidad de textos generados por IA, y si se pudiera contar con etiquetas, no habría necesidad de perder tiempo leyendo este contenido. Sin embargo, Anthropic anunció recientemente que seguirá la iniciativa de la Unión Europea para marcar los textos generados por su IA Claude con una marca de agua, pero lo hará de una manera bastante única.
Actualmente, Apple también está preparando medidas para abordar el problema de las imágenes generadas por IA, a través de una función llamada Apple Reference Image. Dependiendo de la situación, la compañía podría necesitar implementar medidas similares para las herramientas de IA de Siri, ya que estas herramientas se utilizan para corregir o redactar contenido. Aunque no existe una solución perfecta en este momento, como mencioné la semana pasada, el uso de caracteres invisibles como marca de agua no es ideal. Uno de los requisitos más destacados de la iniciativa de la Unión Europea es que las empresas de IA deben aplicar marcas de agua digitales a los textos y las imágenes generadas.
Esto se puede lograr mediante el uso de caracteres invisibles, como el que acabo de usar para reemplazar el espacio entre «invisible» y «carácter». Este tipo de marca de agua puede sobrevivir al copiar y pegar, pero es fácilmente descifrable mediante tecnología de reconocimiento óptico de caracteres.
La estrategia única de marca de agua de Anthropic para textos de IA
La práctica única de Anthropic que mencioné sugiere que la compañía podría adoptar una estrategia diferente. Algunas personas han propuesto que Anthropic podría utilizar patrones de lenguaje específicos en la salida de Claude, de modo que incluso después del reconocimiento óptico de caracteres, se pueda detectar. Tengo muchas ideas al respecto, pero eso está más allá del alcance de este artículo. Hoy en día, parece que la compañía realmente está tomando medidas en este sentido, así que es necesario que exprese mi opinión. El problema no es que Claude incruste estos patrones de lenguaje en textos generados completamente por IA; no tengo objeciones a eso.
El problema es que algunas personas redactan su propio texto y luego utilizan un chatbot de IA para corregirlo. Parece que Claude incrustará marcas de agua ocultas en este caso, incluso si solo se le pide que identifique y corrija errores gramaticales en obras escritas por humanos.
Esto, por supuesto, es una de las funciones que ofrece la IA de Siri. Los usuarios pueden resaltar su propio texto, presionar el botón de Siri y seleccionar la opción de corrección. Ciertamente, mis pruebas limitadas han mostrado que esta función es demasiado agresiva. No solo detecta y corrige errores gramaticales, sino que también sugiere su propia redacción. Espero que esto se pueda ajustar para que sea más sutil, asegurando que la obra pertenezca absolutamente al autor y que el nivel de corrección no supere el ligero ajuste que haría un editor humano. A modo de referencia, esta también fue la razón por la que probé pero finalmente abandoné Grammarly: los cambios que proponía iban más allá de resaltar errores gramaticales y tipográficos, y ofrecía redacciones que yo nunca elegiría usar.
Desafíos y consideraciones de Apple en la corrección de IA
Pero supongamos que el ligero ajuste es la intención de Apple; sería evidentemente incorrecto que la IA distorsionara deliberadamente el lenguaje elegido por el autor para poder ser etiquetado como contenido de IA. Si los cambios realizados son meramente ediciones, también sería inapropiado etiquetarlos como contenido de IA. En el mejor de los casos, podrían ser etiquetados como «corregidos por IA». Como he dicho, no pretendo tener todas las respuestas. El creciente uso de chatbots de IA plantea preguntas complicadas sobre la escritura y la edición. ¿Cuándo debería identificarse correctamente una obra escrita por humanos y editada por IA como una obra híbrida entre el autor y el sistema de IA?
Lo que sé es que cambiar deliberadamente la redacción elegida por un autor humano, especialmente en el caso de que el autor solo haya solicitado a un sistema de IA que lo corrija, no es el camino correcto. Aunque Apple definitivamente necesita abordar este problema en el momento adecuado, espero sinceramente que elija un camino más sabio que el que ha tomado Anthropic.