La idea de que una inteligencia artificial pueda mejorar a otra dejó de ser una posibilidad exclusivamente teórica. Un equipo del Instituto Tecnológico de Massachusetts (MIT) consiguió que GPT-6 Astra, uno de los modelos más avanzados de OpenAI, identificara y corrigiera un problema en el funcionamiento de otra IA. Lo extraordinario es que no necesitó entrenarla nuevamente ni modificar millones de conexiones: bastó con intervenir una parte diminuta de su arquitectura.
El experimento, publicado el 2 de noviembre por investigadores del MIT, utilizó Qwen3.5-0.8B, un modelo de Alibaba con aproximadamente 800 millones de parámetros. Tras la intervención, su precisión en una de las pruebas matemáticas pasó del 7,9% al 48,1%. Los resultados apuntan a una nueva manera de desarrollar inteligencia artificial, aunque también plantean preguntas sobre cómo supervisar sistemas cada vez más capaces de intervenir sobre otros modelos.
El MIT descubrió que modificar una pequeña parte de una IA puede transformar su rendimiento
Para comprender el experimento hay que entender qué son los pesos de una red neuronal. Se trata de valores numéricos que determinan cómo procesa la información y qué importancia concede a las relaciones que aprendió durante su entrenamiento. Habitualmente, mejorar ese comportamiento requiere ajustar numerosos parámetros mediante nuevos procesos de entrenamiento.
Los investigadores Rikiya Takehi, Jayden Teoh, Alex Zhang y Omar Khattab probaron un procedimiento diferente, denominado Weight-Space Programming. En lugar de utilizar los métodos tradicionales de optimización, permitieron que Astra examinara los parámetros de Qwen y propusiera modificaciones directamente sobre ellos.
El problema estaba relacionado con los bucles de razonamiento. Qwen repetía determinados pasos mientras intentaba resolver ejercicios y, en numerosos casos, agotaba el límite de generación antes de proporcionar una respuesta. Astra identificó componentes asociados a ese comportamiento y modificó 131.072 pesos, equivalentes al 0,016% del modelo.
Los resultados fueron especialmente llamativos:
| Prueba | Antes | Después |
|---|---|---|
| MATH-500, razonamiento matemático | 7,9% | 48,1% |
| GSM8K, problemas matemáticos | 13,8% | 67,1% |
| IFEval, seguimiento de instrucciones | 21,0% | 62,3% |
Además, la proporción de respuestas de MATH-500 que alcanzaban el límite de tokens descendió del 93% al 33%. Esto sugiere que la intervención no consistió simplemente en hacer que el modelo respondiera más rápido, sino en reducir un comportamiento repetitivo que perjudicaba su desempeño.
El verdadero desafío comienza cuando las inteligencias artificiales pueden modificar a otras
El experimento no demuestra que Astra pueda diseñar autónomamente generaciones sucesivas de modelos cada vez más inteligentes. Los investigadores definieron las tareas, proporcionaron herramientas y establecieron los criterios de evaluación. Tampoco comprobaron que el procedimiento funcione con cualquier modelo o problema.
Sin embargo, la investigación revela una posibilidad importante: corregir determinados errores de una red neuronal sin tener que repetir su entrenamiento. Esto podría facilitar el desarrollo de modelos más eficientes y permitir intervenciones específicas sobre comportamientos problemáticos.
La cuestión adquiere otra dimensión cuando se relaciona con la denominada automejora recursiva, un escenario en el que las propias IA contribuyen a crear sistemas progresivamente más capaces.
En septiembre, Dario Amodei, director ejecutivo de Anthropic, advirtió que la creciente participación de las inteligencias artificiales en su propio desarrollo podría superar la capacidad humana de evaluar sus avances. Por eso defendió incorporar supervisores independientes y avanzar con mayor cautela.
La preocupación no es que una IA haya adquirido voluntad propia, sino que las herramientas utilizadas para construir modelos futuros puedan introducir cambios cuyo alcance resulte difícil de anticipar. Una modificación aparentemente pequeña podría mejorar una capacidad y, al mismo tiempo, provocar problemas en otras.
Por ahora, el trabajo del MIT representa una demostración experimental, no una prueba de autonomía ilimitada. Pero deja una pregunta relevante para la industria: si una inteligencia artificial ya puede identificar y corregir errores dentro de otra, ¿cuánto cambiará el desarrollo de los próximos modelos cuando estas intervenciones se vuelvan habituales?
