GPT-6 Astra risolve i problemi di matematica di Qwen3.5 riscrivendo il suo cervello senza addestramento
Ricercatori del MIT hanno dimostrato che un singolo modello di AI all'avanguardia può leggere e modificare i parametri interni di un altro modello per renderlo molto più bravo a fare matematica — senza bisogno di addestramento.
Un team del laboratorio di informatica e intelligenza artificiale del MIT ha pubblicato il 2 novembre 2026 un post sul blog di ricerca, descrivendo una tecnica chiamata Weight-Space Programming. In parole semplici, si tratta dei primi risultati che mostrano come un LLM all'avanguardia possa leggere nativamente i pesi interni di un altro modello e modificarli — senza eseguire alcun ciclo di addestramento o utilizzare un ottimizzatore 1.
Il risultato più sorprendente riguarda Qwen3.5-0.8B, un modello linguistico piccolo realizzato da Alibaba. I ricercatori hanno dato ad Astra un'istruzione in linguaggio naturale: "rendi Qwen3.5-0.8B più bravo a fare matematica." Astra ha esaminato i pesi del modello e ha diagnosticato un difetto — la fonte dice che la stessa scheda tecnica di Qwen aveva già avvisato di un bug nel ciclo di ragionamento, dove il modello resta bloccato a ripetere passaggi invece di risolvere un problema 1. Astra poi ha riscritto solo lo 0,016% dei pesi del modello. Niente discesa del gradiente, niente affinamento, nessun feedback dall'ambiente .
Cosa ci si potrebbe fare
- Un ricercatore potrebbe chiedere a un LLM all'avanguardia di diagnosticare e riparare un bug noto nei pesi di un altro modello senza alcun ciclo di addestramento, come ha fatto il team del MIT con il difetto del ciclo di ragionamento di Qwen3.5-0.8B 1.
- Uno sviluppatore potrebbe consegnare a un LLM i pesi grezzi di una rete neurale e chiedergli di capire cosa quella rete è stata addestrata a fare — nell'esperimento del MIT, Astra ha indicato correttamente il gioco per quattro reti diverse con una confidenza fino al 99% guardando solo 17.253 numeri 1.
- Un ingegnere potrebbe chiedere a un LLM di scrivere da zero reti che giocano a videogiochi; Astra ha modificato il 3,5% dei pesi esistenti di Breakout in un solo colpo, raggiungendo il 100% di successo, un risultato che una rete addestrata con PPO non ha mai raggiunto 1.
Il punteggio di Qwen3.5-0.8B sul benchmark MATH-500 è balzato dal 7,9% al 48,1% 1. Si tratta di un miglioramento di oltre sei volte. Nelle stesse condizioni di campionamento, anche una misura di quanto bene il modello segua le istruzioni scritte (IFEval) è triplicata, dimostrando che la correzione non è limitata solo alla matematica .
Leggere cosa un modello dovrebbe fare
Prima di correggere Qwen, il team del MIT ha testato se Astra fosse capace di capire cosa facesse davvero un insieme di pesi grezzi. Hanno addestrato piccole reti con il normale reinforcement learning (l'algoritmo PPO, che migliora il comportamento per tentativi ed errori) per giocare a quattro semplici videogiochi. Tutte e quattro le reti avevano esattamente le stesse dimensioni e gli stessi input, quindi l'unica differenza stava nei numeri al loro interno 1.
Quando a Astra sono stati mostrati solo i 17.253 pesi grezzi — senza immagini, senza footage dei giochi — ha correttamente identificato per quale gioco fosse addestrata ciascuna rete, con una confidenza fino al 99% 1. Ha anche saputo riconoscere la lingua su cui era stato addestrato un piccolo modello linguistico, e perfino individuare quale dei due modelli fosse stato addestrato a essere eccessivamente accondiscendente ("sycophantic") .
Scrivere reti da zero
Ad Astra è stato chiesto anche di scrivere reti da zero. Quando gli è stato chiesto di creare una rete che giocasse a Breakout — un classico arcade in cui una racchetta rimbalza su una palla per rompere dei mattoni — la politica non addestrata progettata da Astra ha raggiunto il 100% di successo in un compito dove una rete normalmente addestrata non lo aveva mai risolto affatto 1. La modifica ha richiesto di cambiare solo il 3,5% dei pesi in un solo passaggio .
I ricercatori hanno definito questo un cambiamento nel modo in cui potrebbe funzionare lo sviluppo dell'AI. Invece di affidarsi a ottimizzatori matematici costruiti a mano come Adam o Muon per regolare lentamente i pesi, si spera che i LLM generalisti siano in grado di ragionare direttamente sullo spazio dei pesi e modificare i modelli nel modo in cui un programmatore modifica il codice 1.
Quello che non è ancora
Gli esperimenti finora sono stati fatti su reti di piccole dimensioni e su Qwen3.5-0.8B, un modello relativamente piccolo. Il paper non afferma che Astra possa riscrivere modelli all'avanguardia arbitrariamente grandi, né mostra la tecnica funzionante su sistemi di produzione reali. La ricerca proviene dal MIT CSAIL ed è stata pubblicata come post sul blog, non ancora come articolo revisionato tra pari 1.
Questa storia è riportata a scopo informativo. Non costituisce un consiglio o un incoraggiamento a fare nulla di tutto ciò.
Quanto è buono
Dopo che Astra ha riscritto solo lo 0,016% dei pesi di Qwen3.5-0.8B, il punteggio MATH-500 del modello è balzato dal 7,9% al 48,1% — un miglioramento di oltre sei volte, secondo il team del MIT CSAIL, pubblicato il 2 novembre 2026 1. Nella stessa modifica dei pesi, IFEval (seguimento delle istruzioni) è triplicato, dimostrando che la correzione non è limitata solo alla matematica . Astra ha correttamente identificato quale delle quattro piccole reti addestrate con PPO giocasse a Breakout, Pong, Pac-Man o Freeway esclusivamente dai loro pesi grezzi, con una confidenza fino al 99% . Una rete PPO normalmente addestrata non ha mai raggiunto il 100% nel compito di Breakout; la modifica ai pesi fatta da Astra l'ha fatto, in un solo colpo e senza feedback dall'ambiente .
I fatti principali
- Astra ha modificato solo lo 0,016% dei pesi di Qwen3.5-0.8B e ha aumentato il suo punteggio MATH-500 dal 7,9% al 48,1%
- Non è stata usata nessuna discesa del gradiente o ciclo di addestramento — la correzione è stata una modifica dei pesi in un solo colpo
- Il punteggio IFEval (seguimento delle istruzioni) è triplicato dopo la stessa modifica dei pesi
- Astra ha identificato a quale gioco una rete fosse addestrata leggendo solo i propri pesi grezzi, con una confidenza fino al 99%
- Astra ha scritto una rete che gioca a Breakout da zero che ha raggiunto il 100% di successo, rispetto allo 0% della base non addestrata
Fonti
Se questa notizia riguarda te o la tua azienda, o usa qualcosa che ti appartiene, chiedi una correzione o la rimozione. Come funzionano le richieste
Continua a leggere
Come funzionaOpenAI pubblica 372 dimostrazioni matematiche generate dall'AI su GitHubHerald of AI
OpenAI pubblica 372 dimostrazioni matematiche generate dall'AI su GitHub
L'azienda aggira le riviste tradizionali, scommettendo che la verifica formale possa gestire l'ondata di matematica prodotta dall'AI.
Il portafoglio ChatGPT di OpenAI permette agli agenti di AI di fare acquisti senza vedere il numero della tua carta
Segna l'inizio di un nuovo modo per comprare online: è il tuo aiutante AI a scegliere e pagare, ma tu approvi comunque ogni transazione e la tua carta reale resta nascosta.
La settimanaQuesta settimana su vulnerabilità AI, strumenti e bolleHerald of AI
Questa settimana su vulnerabilità AI, strumenti e bolle
I chatbot si sono infranti sotto la gentilezza, i timori azionari sono cresciuti e le alternative open source continuavano a sbocciare.