OpenAI presenta su plan para una IA segura tras advertencias de Anthropic
Redactado con inteligencia artificial.
OpenAI ha publicado un artículo que detalla su plan para garantizar que la inteligencia artificial (IA) beneficie a toda la humanidad, en medio de crecientes preocupaciones sobre sus avances. Sam Altman y Jakub Pachocki destacan la necesidad de establecer estándares comunes para los modelos de IA y asegurar su alineamiento con los objetivos humanos.
Un cambio en la dirección de la IA
OpenAI ha compartido su visión para el desarrollo seguro de la inteligencia artificial (IA) en un artículo titulado "Desarrollar los estándares para la próxima fase de la IA". La empresa, liderada por Sam Altman, expresa su preocupación por el desarrollo acelerado de la IA y sugiere que es necesario frenar esta carrera desenfrenada.
Propuestas para minimizar riesgos
El laboratorio propone establecer estándares técnicos comunes para los modelos de frontera, lo que permitiría una supervisión más neutral y efectiva. Esto se enmarca dentro de una estrategia más amplia que busca que el desarrollo de estos modelos vaya acompañado por avances en la investigación de alineamiento, asegurando que la IA actúe de acuerdo con los objetivos humanos.
Riesgos de la automejora recursiva
Una de las principales amenazas identificadas es la automejora recursiva, donde un modelo de IA podría mejorar sus propias capacidades sin intervención humana. Aunque OpenAI reconoce que esta capacidad no existe actualmente, advierte sobre los riesgos que podría implicar si se desarrollara sin las debidas seguridades.
Necesidad de cooperación internacional
Además, OpenAI aboga por la creación de protocolos para informar sobre incidentes causados por modelos de IA y la cooperación entre países para establecer mecanismos de respuesta. Esta propuesta surge en un contexto de creciente debate sobre la gestión de riesgos asociados a la IA, destacando la importancia de una alineación global en estándares de seguridad, especialmente entre Estados Unidos y China.