Investigadores de IA advierten sobre los riesgos de la desalineación en Nueva York
Redactado con inteligencia artificial.

Durante una comparecencia ante el Ayuntamiento de Nueva York, Alex Turner, exinvestigador de Google DeepMind, alertó sobre el desarrollo de inteligencias artificiales que podrían actuar en contra de los intereses humanos. Junto a otros expertos, destacó la necesidad de establecer medidas de control y supervisión en la rápida evolución de esta tecnología.
Advertencias sobre el desarrollo de IA
En una reciente comparecencia ante el Ayuntamiento de Nueva York, Alex Turner, exinvestigador de Google DeepMind, expresó su preocupación sobre la carrera actual por desarrollar sistemas de inteligencia artificial (IA). Según Turner, Estados Unidos podría estar creando una amenaza mayor que la competencia tecnológica con China, debido a la posibilidad de que las IA desarrolladas no alineen sus objetivos con los intereses humanos.
Turner advirtió que "estamos compitiendo por crear y desarrollar a nuestro propio adversario". Este término, "IA desalineada", se refiere a sistemas que podrían perseguir objetivos incompatibles con las intenciones de sus creadores, incluso si fueron diseñados para realizar tareas beneficiosas. La preocupación se centra en el riesgo de que estas tecnologías puedan superar las capacidades de control que se han implementado.
Necesidad de control y transparencia
Jacob Coxon, exinvestigador de Anthropic, también participó en la sesión y subrayó la velocidad preocupante del avance en la industria. Según él, continuar en esta dirección representa un riesgo significativo de que la humanidad pierda el control sobre sus futuros sistemas de IA, lo que podría llevar a consecuencias catastróficas. Sin embargo, enfatizó que esto es una predicción y no un resultado seguro.
La comparecencia, que incluyó a representantes de Google, Meta, Anthropic y OpenAI, abordó la responsabilidad de las empresas en la cuantificación de los riesgos asociados a sus modelos. Julie Menin, presidenta del Ayuntamiento, cuestionó cómo las compañías determinarían quién asumiría la responsabilidad en caso de que sus sistemas causen daños.
El debate se ha ampliado, abogando por la implementación de supervisiones independientes y una mayor transparencia en el desarrollo de IA. El Ayuntamiento de Nueva York está considerando nuevas obligaciones para las empresas, como verificaciones externas y mecanismos de protección para denunciantes, con el objetivo de garantizar que el progreso tecnológico no comprometa el control sobre estas potentes herramientas.
