OpenAI presenta un sistema de marca de agua para textos generados por IA

Cumplimiento de la Ley de IA de la UE

OpenAI ha revelado su estrategia para cumplir con la Ley de IA de la Unión Europea, que exige que los proveedores de sistemas de IA generativa identifiquen claramente los textos generados por inteligencia artificial. El nuevo sistema de marca de agua, denominado textGrain, añadirá una señal estadística invisible a las elecciones de palabras del modelo.

Implementación y acceso

A partir de hoy, los clientes de la API de OpenAI podrán optar por activar la marca de agua para modelos seleccionados. En cuanto a ChatGPT y Codex, la implementación de la marca de agua comenzará en las próximas semanas y estará disponible inicialmente solo para usuarios aprobados en la Unión Europea.

OpenAI también ha abierto solicitudes para acceder a su detector de marcas de agua, que estará limitado a investigadores y organizaciones expertas aprobadas mientras la empresa evalúa y mejora la tecnología. Sin embargo, la empresa advierte que la tecnología de detección presenta limitaciones, incluyendo falsos negativos y positivos, especialmente en textos cortos o en dominios específicos como las matemáticas.

Limitaciones del sistema

El sistema textGrain presenta una serie de limitaciones. Por ejemplo, se ha observado que la detección de la marca de agua disminuye significativamente si se reemplaza una proporción de palabras con sinónimos. En un análisis, cambiar el 10% de las palabras de un pasaje de 400 tokens redujo la tasa de detección del 92% al 66%. Además, OpenAI enfatiza que la ausencia de una marca de agua no prueba la autoría humana ni establece propiedad o responsabilidad.

OpenAI planea revisar su enfoque a medida que la tecnología y los estándares evolucionen, y continuará investigando cómo las marcas de agua resisten la edición y la traducción, así como si pueden distinguir de manera más efectiva entre la asistencia de IA y la autoría de IA.