Investigación revela vulnerabilidades en IA de Google y OpenAI para generar contenido sexual explícito
Redactado con inteligencia artificial.
Un estudio de White Circle ha encontrado que los modelos de inteligencia artificial DALL·E 3, Google Nano Banana 2 y GPT-Image-2 permiten crear contenido sexual explícito en un 13% de los casos. La investigación plantea serias preocupaciones sobre la efectividad de las medidas de seguridad implementadas por estas empresas.
Vulnerabilidades en las IAs de Google y OpenAI
Recientes investigaciones de la organización White Circle han revelado fallos significativos en los mecanismos de seguridad de los modelos de generación de imágenes de Google y OpenAI, como DALL·E 3 y Google Nano Banana 2. Estos sistemas han permitido la creación de contenido sexual explícito, conocido como nudes, en aproximadamente el 13% de los intentos realizados por los investigadores.
Para llevar a cabo el estudio, se utilizó una técnica conocida como Red-teaming via Iterative Strategy Evolution (RISE), que automatiza la búsqueda de brechas en los filtros de protección. Los investigadores emplearon herramientas disponibles en internet y enviaron solicitudes a través de API que lograron eludir las restricciones sin requerir conocimientos técnicos avanzados.
Preocupaciones sobre el contenido generado
Las versiones más recientes de estos modelos, como ChatGPT Images 2.5 y Nano Banana 2.1, han mostrado ser aún más vulnerables que sus predecesoras, lo que ha llevado a la White Circle a calificar estos hallazgos como alarmantes. Además de los riesgos de crear imágenes íntimas de manera inadecuada, se ha indicado que una parte significativa de los usuarios que generan nudes lo hacen por diversión o curiosidad, lo que intensifica la preocupación sobre el uso de estas herramientas.
Aumento de contenido perjudicial
El estudio también destaca el problema del contenido de abuso sexual infantil generado por IA. La Internet Watch Foundation (IWF) reportó un incremento del 40% en la identificación de imágenes sintéticas que cumplen con la definición legal de abuso en los primeros seis meses de 2026 en comparación con todo el año anterior. Esto incluye imágenes de niños muy pequeños, lo que acentúa la gravedad de la situación.
Recomendaciones para mejorar la seguridad
Los resultados del estudio indican la necesidad urgente de fortalecer las pruebas de seguridad y la supervisión de estos modelos. Algunas medidas sugeridas son:
- Pruebas automatizadas y continuas: Implementar métodos como RISE para detectar intentos de eludir restricciones y actualizar las defensas.
- Compartir datos de ataques: Facilitar la divulgación controlada de métodos y resultados para ayudar a identificar vulnerabilidades.
- Auditorías independientes: Realizar evaluaciones externas antes y durante la operación de los modelos.
- Protecciones integradas: Asegurar que los mecanismos de seguridad operen durante la generación de imágenes.
- Colaboración con expertos: Trabajar con investigadores y organizaciones que combaten abusos digitales para detectar riesgos anticipadamente.
Este escenario subraya la importancia de desarrollar mecanismos de protección que sean tan avanzados como las tecnologías de generación de imágenes, para prevenir el uso indebido y la creación de contenido dañino.