OpenAI comenzará a marcar el texto de ChatGPT en la UE

Implementación de la Marca de Agua

OpenAI ha anunciado que comenzará a añadir una marca de agua invisible al texto generado por ChatGPT y Codex en la Unión Europea, como parte de su cumplimiento con la Ley de IA de la UE. Esta medida se implementará en las próximas semanas para todos los usuarios elegibles en la región. Sin embargo, los desarrolladores que utilicen la API de OpenAI a nivel mundial podrán activar esta función para ciertos modelos desde hoy, aunque está desactivada por defecto.

Funcionamiento de la Marca de Agua

La marca de agua no es un símbolo visible, sino que funciona ajustando sutilmente las elecciones de palabras del modelo, creando un patrón que es indetectable para los lectores, pero que puede ser detectado por sistemas especializados. La marca se integrará en el texto y se trasladará con él al copiarse y pegarse. OpenAI ha asegurado que esta marca no identifica al usuario y que no ha observado cambios significativos en el rendimiento de sus modelos con la marca activada.

Limitaciones y Precauciones

OpenAI ha indicado que la edición del texto podría eliminar la marca de agua. En pruebas realizadas, reemplazar el 10% de las palabras por sinónimos redujo la tasa de detección del 92% al 66%. Pasajes cortos, respuestas matemáticas y textos traducidos también son más difíciles de detectar. Además, la compañía ha advertido que la ausencia de una marca de agua no implica necesariamente que el texto sea de autoría humana, ya que puede ser demasiado corto o editado en exceso.

Este anuncio surge dos meses después de que Anthropic anunciara su propia marca de agua para el texto generado por Claude, lo que provocó reacciones mixtas entre los usuarios. OpenAI y otras empresas tecnológicas han comprometido su adherencia al código de práctica de la UE sobre contenidos generados por IA.