En realidad, es una noticia que en Europa ya muchos daban por descontada, sabemos que Gemini, de Google, lleva casi dos años marcando su contenido generado con IA a través de su sistema SynthID. Pero para quienes usamos Claude desde América Latina, el tema tiene una capa extra de interés, porque aunque la norma que obliga a Anthropic a hacer esto es europea, sus efectos no se quedan del otro lado del Atlántico.
Anthropic, la desarrolladora de Claude, anunció que firmó el Código de Buenas Prácticas del artículo 50(2) de la Ley de IA de la Unión Europea sobre Transparencia del Contenido Generado por IA, una normativa que entró en vigor el pasado 2 de agosto con el objetivo de poner algo de orden al uso de la inteligencia artificial en el bloque europeo.
Y aquí está lo que nos interesa a quienes estamos fuera de Europa: la propia Anthropic confirmó que el marcado de contenido va a aplicar en todos los productos de Claude y dondequiera que la herramienta esté disponible, en todo el mundo, no solo para usuarios europeos. Así que sí, aunque la ley nazca en Bruselas, las marcas de agua digitales van a acompañar también los textos que Claude genere para nosotros, en Ciudad de México, Bogotá, Buenos Aires o Santiago.
Sospecho que a más de un usuario de Claude en la región esto le va a tomar por sorpresa, así que vamos a contarlo con detalle.
En concreto, el artículo 50(2) de la Ley se refiere a la obligación de las empresas que están detrás de los grandes modelos de IA (como Anthropic con Claude) de marcar, de forma visible o invisible, los contenidos que generen, para que puedan ser identificados como “sintéticos”. Este es el párrafo de la ley en cuestión:
“Los proveedores de sistemas de IA, incluidos los de propósito general, que generen contenido sintético de audio, imagen, vídeo o texto, deberán garantizar que los resultados del sistema de IA estén marcados en un formato legible por máquina y sean detectables como generados o manipulados artificialmente. Los proveedores deberán garantizar que sus soluciones técnicas sean eficaces, interoperables, robustas y fiables en la medida en que sea técnicamente factible, teniendo en cuenta las especificidades y limitaciones de los distintos tipos de contenido, los costes de implementación y el estado de la técnica generalmente reconocido, tal como se refleja en las normas técnicas pertinentes. Esta obligación no se aplicará en la medida en que los sistemas de IA realicen una función de asistencia para la edición estándar o no alteren sustancialmente los datos de entrada proporcionados por el usuario ni su semántica, o cuando estén autorizados por ley para detectar, prevenir, investigar o perseguir delitos”.
En su comunicado, Anthropic explica que este procedimiento de marcado ya está en marcha en cualquier plataforma donde uses Claude para “los modelos lanzados en la UE a partir del 2 de agosto de 2026” y que el texto generado incluirá “marcas de agua integradas y los archivos generados incluirán metadatos de procedencia firmados digitalmente, cuando sea compatible”. Además, aclara que la ley incluye un período de transición para los modelos de Anthropic lanzados antes del 2 de agosto de 2026, y que la compañía está trabajando para añadir soporte de marcado también para esos modelos.
El concepto de marca de agua es bastante intuitivo cuando lo aplicamos al ámbito de las imágenes o el vídeo, por ejemplo. Es fácil comprender que entre los metadatos de una imagen sintética, por ejemplo, se incluya algún tipo de código no visible que sirva para identificarla como generada por IA.
En el caso de los textos, el proceso es algo más refinado. Y alucinante, si me lo permites.
Cuando una IA como la de Claude quiere añadir una marca de agua al texto generado, lo hace directamente alterando el texto que genera. Sé que es complicado de entender al principio, así que trataremos de simplificarlo con un ejemplo. Anthropic todavía no ha explicado técnicamente cómo funciona la marca de agua textual de Claude, y ha adelantado que publicará más documentación próximamente, pero podemos entender cómo funciona un sistema de este tipo observando tecnologías similares que ya son públicas, como SynthID Text de Google.
Cuando el modelo calcula una lista de opciones lógicas para continuar con un texto y sus probabilidades (por ejemplo, tiene que decidir entre utilizar “casa” , “hogar” o “vivienda”), la tecnología consulta una función matemática basada en una clave secreta. Esta clave le da un pequeñísimo empujón imperceptible a ciertas variantes (sinónimos de casa, en el ejemplo mencionado) para que sean seleccionadas, sin cambiar el significado, el estilo ni la corrección gramatical del texto.
El truco, brillantísimo, de este procedimiento, es que alterar una sola palabra o una frase corta de esta forma da un resultado que es indistinguible, en general, de cualquier otro texto humano. Sin embargo, a lo largo de un párrafo de 50 o 100 palabras, esa ligera preferencia, ese favorecimiento de unas alternativas frente a otras similares, deja un patrón estadístico. Para un detector que posee la clave matemática secreta, reconocer esa distribución de palabras en el texto es como encontrar una firma digital invisible, lo que le permite confirmar que el fragmento ha sido generado por ese modelo.
Incluso si después lo copias y pegas sin formato.
Es la gracia de que la marca de agua sea parte del propio texto.
Así que si estás usando Claude para generar textos y no quieres que se sepa que han sido generados por una IA, tienes un pequeño problema. A menos que quieras pasarte un buen rato reescribiendo las frases que genere, claro.
Aunque también sucede al revés: encontrar la marca de Claude no permitirá afirmar automáticamente que Claude escribió el texto. Anthropic recuerda que un usuario puede utilizar su IA simplemente para corregir, traducir, resumir o transformar un contenido originalmente humano. En esos casos, el resultado también puede incorporar la marca. La señal permitirá saber que Claude ha intervenido en el texto, no necesariamente que lo haya creado desde cero.
Imagen: ChatGPT
Tu dirección de correo electrónico no será publicada. Los campos requeridos están marcados *
Δ