El gobierno investiga aplicaciones de IA para niños por riesgos de dependencia
Redactado con inteligencia artificial.
El Ministerio de Justicia de Brasil ha solicitado a la Agencia Nacional de Protección de Datos (ANPD) una investigación sobre 13 aplicaciones de inteligencia artificial que simulan vínculos afectivos con los usuarios. Se advierten riesgos de dependencia emocional y exposición a contenido inapropiado, especialmente en menores.
Investigación de aplicaciones de IA
El Ministerio de Justicia y Seguridad Pública de Brasil ha solicitado a la ANPD investigar 13 aplicaciones de inteligencia artificial que fomentan la simulación de amistad y vínculos emocionales con los usuarios, destacando preocupaciones sobre la dependencia emocional y el uso compulsivo, así como la exposición de menores a contenido inadecuado.
Aplicaciones en la mira
La lista de aplicaciones incluye:
- Character.AI
- Replika
- Nomi
- Candy.ai
- Kindroid
- Chai
- Paradot
- Talkie
- CrushOn.AI
- EVA AI
- Swipey
- Anima
- SpicyChat.AI
La investigación es preliminar y no implica que estas plataformas hayan cometido infracciones. Estas aplicaciones son diferentes de chatbots generales, ya que están diseñadas para mantener conversaciones personalizadas y simular relaciones emocionales, lo que especialmente preocupa cuando se trata de menores de edad.
Impactos en los menores
Según la Secretaría Nacional de Derechos Digitales, los riesgos incluyen:
- Apego excesivo y sustitución de relaciones personales
- Problemas de sueño
- Disminución del rendimiento escolar
- Abandono de otras actividades
- Exposición a contenido sexualizado
El uso de estas aplicaciones ha crecido rápidamente, pasando de 16 en 2022 a 128 en julio de 2025, con aproximadamente 60 millones de descargas solo en el primer semestre de 2025.
Problemas de acceso y regulación
El gobierno también ha señalado la facilidad con que los menores acceden a estas aplicaciones, ya que muchas de ellas solo utilizan la autodeclaración de edad, un método que puede ser fácilmente eludido. Se plantea la necesidad de considerar las regulaciones del Estatuto Digital de la Crianza y Adolescencia (ECA Digital) para proteger a los menores en el entorno digital.
A nivel internacional, la Unión Europea también ha propuesto restricciones sobre chatbots que simulan relaciones emocionales con menores, buscando mitigar estos riesgos. En Brasil, esta investigación se suma a otras iniciativas del gobierno para mejorar la seguridad digital para niños y adolescentes.