GPT-6 Astra repara la habilidad matemática de Qwen3.5 reescribiendo su cerebro sin ningún entrenamiento

Un equipo del laboratorio de Ciencia de la Computación e Inteligencia Artificial del MIT publicó una entrada de blog de investigación el 2 de noviembre de 2026, describiendo una técnica que denominan Weight-Space Programming. En términos sencillos, presenta resultados tempranos que muestran que un LLM de vanguardia puede leer nativamente los pesos internos de otro modelo y editarlos — sin ejecutar ningún bucle de entrenamiento ni optimizador ¹.

El resultado más llamativo involucra a Qwen3.5-0.8B, un modelo de lenguaje pequeño creado por Alibaba. Los investigadores le dieron a Astra una instrucción en lenguaje natural: «haz que Qwen3.5-0.8B sea mejor en matemáticas». Astra examinó los pesos del modelo y diagnosticó un defecto: según la fuente, la propia ficha técnica de Qwen ya advertía de un error de bucle de razonamiento, donde el modelo se queda atascado repitiendo pasos en lugar de resolver un problema ¹. Astra luego reescribió solo el 0,016 % de los pesos del modelo. Sin descenso por gradiente, sin ajuste fino, sin retroalimentación del entorno .

Qué podrías hacer con esto

• Un investigador podría pedirle a un LLM de vanguardia que diagnostique y repare un bug conocido dentro de los pesos de otro modelo sin ningún bucle de entrenamiento, como hizo el equipo del MIT con el error de bucle de razonamiento de Qwen3.5-0.8B ¹.
• Un desarrollador podría entregar pesos de red neuronal en bruto a un LLM y pedirle que identifique qué fue entrenada la red: en el experimento del MIT, Astra nombró correctamente el juego correspondiente a cuatro redes con hasta un 99 % de confianza, basándose solo en 17.253 números ¹.
• Un ingeniero podría indicarle a un LLM que escriba redes que jueguen videojuegos desde cero; Astra editó el 3,5 % de los pesos existentes de Breakout de un tirón para lograr un 100 % de éxito, una tarea que una red entrenada con PPO nunca alcanzó ¹.

La puntuación de Qwen3.5-0.8B en el benchmark MATH-500 saltó del 7,9 % al 48,1 % ¹. Eso es una mejora de más de seis veces. Con los mismos parámetros de muestreo, una medida de qué tan bien sigue el modelo las instrucciones escritas (IFEval) también se triplicó, lo que muestra que la reparación no se centró exclusivamente en matemáticas .

Leer lo que un modelo está destinado a hacer

Antes de reparar Qwen, el equipo del MIT probó si Astra siquiera podía entender lo que estaba haciendo un conjunto de pesos crudos. Entrenaron pequeñas redes con refuerzo aprendizaje estándar (el algoritmo PPO, que mejora el comportamiento mediante prueba y error) para jugar cuatro videojuegos sencillos. Las cuatro redes tenían exactamente el mismo tamaño y entradas, así que la única diferencia estaba en los números dentro de ellas ¹.

Cuando se le presentaron a Astra solo los 17.253 pesos crudos —sin imágenes, sin grabaciones del juego— identificó correctamente qué juego estaba entrenado cada red con hasta un 99 % de confianza ¹. También pudo identificar el idioma en el que había sido entrenado un modelo de lenguaje pequeño, e incluso detectar cuál de dos modelos había sido entrenado para ser excesivamente complaciente («sáfico») .

Escribir redes desde cero

También se le pidió a Astra que escribiera redes desde cero. Cuando se le encomendó crear una red que jugara Breakout —un clásico juego de arcade en el que una paleta rebota una bola para romper ladrillos—, la política no entrenada diseñada por Astra logró un 100 % de éxito en una tarea donde una red entrenada normalmente nunca lo resolvía en absoluto ¹. La edición requería cambiar solo el 3,5 % de los pesos en un solo pase .

Los investigadores encuadraron esto como un cambio en cómo podría funcionar el desarrollo de IA. En lugar de depender de optimizadores matemáticos construidos a mano como Adam o Muon para ajustar lentamente los pesos, la esperanza es que los LLM de propósito general puedan razonar directamente sobre el espacio de pesos y editar modelos como un programador edita código ¹.

Esto aún no es

Los experimentos realizados hasta ahora se han hecho en redes de pequeña escala y en Qwen3.5-0.8B, un modelo relativamente pequeño. El artículo no afirma que Astra pueda reescribir modelos de vanguardia arbitrariamente grandes, ni muestra que la técnica funcione en sistemas de producción del mundo real. La investigación proviene de MIT CSAIL y se publicó como entrada de blog, aún no como artículo revisado por pares ¹.

Esta historia informa sobre una tendencia únicamente con fines informativos. No constituye asesoramiento ni ánimo para realizar ninguna de estas acciones.

Qué tan bueno es

Después de que Astra reescribiera solo el 0,016 % de los pesos de Qwen3.5-0.8B, la puntuación del modelo en MATH-500 saltó del 7,9 % al 48,1 %: una mejora de más de seis veces, según el equipo de MIT CSAIL publicado el 2 de noviembre de 2026 ¹. En la misma edición de pesos, IFEval (seguimiento de instrucciones) se triplicó, mostrando que la reparación no se centró exclusivamente en matemáticas . Astra identificó correctamente cuál de cuatro pequeñas redes entrenadas con PPO estaba jugando Breakout, Pong, Pac-Man o Freeway únicamente a partir de sus pesos crudos, con hasta un 99 % de confianza . Una red PPO entrenada normalmente nunca alcanzó el 100 % en la tarea de Breakout; la edición de pesos de Astra lo logró, de un solo golpe y sin retroalimentación del entorno .

Los datos clave

• Astra editó solo el 0,016 % de los pesos de Qwen3.5-0.8B y elevó su puntuación MATH-500 del 7,9 % al 48,1 %
• No se usó descenso por gradiente ni bucle de entrenamiento: la reparación fue una edición de pesos de un solo golpe
• La puntuación de seguimiento de instrucciones IFEval se triplicó tras la misma edición de pesos
• Astra identificó qué juego estaba entrenado una red leyendo solo sus pesos crudos, con hasta un 99 % de confianza
• Astra escribió desde cero una red que jugaba Breakout y obtuvo un 100 % de éxito, frente al 0 % de la línea base no entrenada

Fuentes

1. Sparks of Weight-Space Programming: LLMs can natively read & write neural network weights