Anthropic anuncia que Claude incluirá ahora marcas invisibles para indicar que un texto se creó con IA

Según declaró su fabricante, Anthropic, Claude comenzará a dejar marcadores invisibles para indicar que un texto fue generado con inteligencia artificial.

La nueva actualización forma parte de la Ley de IA de la UE, que exige a las empresas de inteligencia artificial que implementen métodos para detectar contenido generado por IA. Sin embargo, surge en medio de una creciente preocupación por la proliferación de contenido multimedia de baja calidad generado con inteligencia artificial en internet, conocido popularmente como “basura de IA”.

De acuerdo con las normas de la IA, estas marcas de agua invisibles se colocarán tanto en texto como en imágenes. Su implementación se extenderá a nivel mundial, incluso en usos específicos del chatbot Anthropic, como Claude Code.

Las marcas de agua en las imágenes generadas por IA se generalizaron y son relativamente sencillas. Dejan una serie de pistas en la imagen que son invisibles para un ser humano, pero que pueden ser detectadas por sistemas automatizados.

Sin embargo, presentan algunas limitaciones. Por ejemplo, la marca de agua puede eliminarse cuando un usuario convierte una imagen o le toma una captura de pantalla.

Pero quizás el cambio más sorprendente y controvertido sea que Anthropic anunció que introducirá funciones similares para la generación de texto. Esto también incluirá un rastro invisible que los sistemas automatizados podrán detectar, pero que será imperceptible para los humanos, según la empresa.

Esta función ya generó controversia entre algunos usuarios que temen que solicitar a Claude que edite un texto pueda provocar que este sea etiquetado erróneamente como producido por un sistema automatizado, por ejemplo. Anthropic recalcó que se trata de una limitación del sistema y que la “marca de Claude” podría ser visible incluso en ejemplos donde “las ideas, el texto o los datos subyacentes provienen de otra fuente”.

“Una marca detectada indica que el contenido fue procesado por Claude, pero no es del todo concluyente”, advirtió Anthropic. “Detectar una marca de Claude sugiere que el contenido podría haber sido procesado por Claude”, afirmó, señalando que una marca “por sí sola no confirma la procedencia completa del contenido”.

También señaló que la ausencia de dicha marca de agua no implica necesariamente que el texto no haya sido generado o procesado mediante IA. Podría provenir de un modelo anterior a la introducción de la marca, haber sido editado o modificado sustancialmente, o ser demasiado corto para incluir una señal fiable, por ejemplo.

Anthropic no dio detalles específicos sobre cómo integrará las marcas de agua en su texto, presumiblemente al menos en parte para evitar que la gente encuentre la manera de eliminarlas. Sin embargo, las tecnologías similares suelen funcionar mediante el uso de caracteres invisibles específicos o priorizando ciertas palabras sobre otras, y se cree que Claude está utilizando esta última opción.

Eso podría incluir, por ejemplo, usar una proporción mayor o menor de una palabra en particular para que se detectara en un análisis estadístico. Anthropic recalcó que no sería perceptible y que no “alteraría el significado, la calidad ni la legibilidad de la respuesta de Claude”.

En el pasado, otras tecnologías para detectar texto generado por IA se toparon con diversos problemas.

Podría ser posible guardar todos los mensajes generados por un chatbot y compararlos con textos sospechosos, por ejemplo, pero esto plantea problemas prácticos y de privacidad en cuanto a cómo almacenar todas esas conversaciones. Otras opciones ya existentes incluyen la comprobación del texto después de su generación para detectar las características propias de la escritura por IA, como palabras o estructuras sintácticas específicas; sin embargo, esto también puede requerir importantes recursos informáticos y no siempre funciona de forma consistente.

Inicialmente, Anthropic añadirá las marcas a todo el contenido generado con modelos introducidos después del 2 de agosto de este año, según indicó la compañía. Sin embargo, también está trabajando para ampliar la compatibilidad con modelos más antiguos.

Traducción de Olivia Gorsin