OkTecno
OkTecno

La tecnología que importa, sin jerga

viernes, 20 de noviembre de 2026
Portada>Ciberseguridad>OpenAI lanza un nuevo clasificador de imágenes y a…
Ciberseguridad

OpenAI lanza un nuevo clasificador de imágenes y advertencias en ChatGPT para combatir el CSAM

·2 min de lectura

Redactado con inteligencia artificial.

OpenAI lanza un nuevo clasificador de imágenes y advertencias en ChatGPT para combatir el CSAM
Imagen generada con IA

OpenAI ha presentado herramientas para combatir el material de abuso sexual infantil (CSAM), incluyendo un nuevo clasificador de imágenes y advertencias en ChatGPT. Los usuarios que intenten acceder a contenido CSAM recibirán una suspensión temporal de su cuenta como advertencia.

Nuevas herramientas contra el CSAM

OpenAI ha anunciado la implementación de nuevas herramientas diseñadas para combatir el material de abuso sexual infantil (CSAM). Estas incluyen un clasificador de imágenes que detecta dicho contenido, advertencias y bloqueos temporales en ChatGPT para evitar que los usuarios accedan o creen material que sexualice a niños.

El nuevo clasificador de imágenes, desarrollado en colaboración con el Centro Nacional para Niños Desaparecidos y Explotados (NCMEC), tiene la capacidad de identificar imágenes de CSAM, incluso aquellas generadas por inteligencia artificial. OpenAI proporcionará acceso a este clasificador, a través de su API, a algunas empresas seleccionadas sin coste alguno. Durante las pruebas iniciales, este clasificador logró reducir en un 48% la cantidad de imágenes que se enviaban a revisión, manteniendo la misma tasa de detección de imágenes abusivas.

Advertencias en ChatGPT

Para prevenir el acceso a contenido sexualizado de menores, ChatGPT ahora mostrará alertas a los usuarios que intenten realizar solicitudes relacionadas. Estos usuarios recibirán un aviso, se les dirigirá a recursos especializados y su cuenta será suspendida durante 24 horas como medida de advertencia. OpenAI ha indicado que las cuentas que reincidan podrían ser eliminadas permanentemente.

OpenAI lanza un nuevo clasificador de imágenes y advertencias en ChatGPT para combatir el CSAM
Imagen generada con IA

Colaboración y formación

OpenAI ha trabajado junto a organizaciones como Protect Children y la Fundación Lucy Faithfull para desarrollar mensajes y directrices que refuercen el comportamiento seguro. Además, está publicando pautas para desarrolladores que utilizan herramientas de OpenAI, facilitando la adopción de tecnologías de seguridad infantil y la posibilidad de reportar CSAM al NCMEC. También se están equipando a las fuerzas del orden con características impulsadas por IA para ayudar en investigaciones relacionadas con la seguridad infantil.

OpenAI ha enfrentado varias demandas por el impacto potencial de su tecnología en los usuarios, particularmente en los niños, y ha realizado cambios significativos en el último año para abordar estos problemas de seguridad, incluida la creación de un modelo específico de ChatGPT para adolescentes.

CiberseguridadCsamOpenai
← Volver a la portada