OpenAI implementa una marca de agua invisible en textos de ChatGPT en Europa
Redactado con inteligencia artificial.
OpenAI ha anunciado la incorporación de una marca de agua invisible, llamada textGrain, para los textos generados por ChatGPT en Europa, como parte de su cumplimiento con las normativas de transparencia. Esta tecnología no será visible ni incluirá caracteres ocultos, sino que utiliza un patrón estadístico en la elección de palabras.
Marca de agua invisible en textos generados por IA
OpenAI ha decidido integrar una marca de agua invisible en los textos generados por sus modelos de inteligencia artificial, en línea con la normativa europea de transparencia. Esta medida se unirá a la tecnología similar que ya ha adoptado la empresa Anthropic.
La técnica desarrollada por OpenAI, conocida como textGrain, no añade elementos visibles en los textos, sino que elige las palabras basándose en criterios estadísticos, creando un patrón identificable posteriormente. Esta innovación se aplicará inicialmente solo en la Unión Europea, aunque los clientes que utilicen la API de OpenAI podrán optar por activar esta huella estadística en otros lugares.
Limitaciones de la tecnología
A pesar de su diseño, OpenAI ha admitido que textGrain presenta limitaciones. Si se modifica un texto, como reemplazar palabras por sinónimos o cambiar la estructura de las frases, la capacidad de detección disminuye. Por ejemplo, cambiar el 10% de las palabras reduce la eficacia de detección del 92% al 66%. Además, los textos cortos dificultan la identificación del patrón estadístico.
Las herramientas de detección también corren el riesgo de generar falsos positivos, atribuyendo una huella de IA a textos que no han sido generados por un modelo. Durante las pruebas, la tasa de aciertos alcanzó el 95% en textos de 400 tokens, pero solo el 80% en textos de 200 tokens. Aun así, es importante destacar que estas herramientas no pueden determinar la proporción exacta de contenido generado por IA frente a contenido humano, ni identificar a los usuarios o las interacciones previas con el modelo de IA.
OpenAI aplica estándares como C2PA y marcas de agua SynthID para imágenes y audio, pero en el caso de los textos, textGrain por sí solo no es suficiente para garantizar una identificación clara del origen del contenido.