Astra y la automejora recursiva de la IA: implicaciones y riesgos
Redactado con inteligencia artificial.

Investigadores del MIT han demostrado que GPT-6 Astra puede modificar directamente otro modelo de IA, Qwen3.5-0.8B, mejorando su rendimiento en matemáticas. Este avance plantea tanto oportunidades para acelerar el desarrollo de modelos de IA como riesgos potenciales en su control y evaluación.
Avance en la IA con automejora recursiva
El 12 de septiembre, Dario Amodei, director general de Anthropic, publicó un ensayo que aboga por ralentizar el desarrollo de la inteligencia artificial (IA) para asegurar su alineación con los intereses humanos y mitigar riesgos. En su artículo, menciona que la IA está avanzando rápidamente gracias a su capacidad de desarrollar nuevos modelos, un fenómeno conocido como automejora recursiva.
Logro de Astra en la modificación de otra IA
Investigadores del MIT han encontrado que GPT-6 Astra, la IA de OpenAI, puede modificar directamente los parámetros internos de otro modelo de IA, específicamente Qwen3.5-0.8B de Alibaba. Astra mejoró significativamente el rendimiento de Qwen en operaciones matemáticas al ajustar solo el 0,016% de sus parámetros, sin necesidad de un reentrenamiento.
Implicaciones y riesgos
Este método, que involucra la manipulación directa de los pesos de un modelo de IA, abre nuevas posibilidades para el desarrollo de modelos más eficientes. Sin embargo, también plantea preocupaciones sobre la autonomía de los modelos de IA y los riesgos de errores o comportamientos anómalos en las modificaciones. Los laboratorios de IA deberán establecer mecanismos para garantizar que estas intervenciones no generen vulnerabilidades difíciles de identificar.
