Il ricercatore del MIT vuole che l'AI spieghi se stessa invece di nascondere come funziona
Jacob Andreas sta allenando l'AI a parlare di ciò che ha imparato, offrendo agli utenti comuni un modo per capire come questi sistemi prendono decisioni, senza affidarsi solo a strumenti complessi di debug.

Un metodo di ricerca che allena i modelli di intelligenza artificiale a descrivere le proprie scelte con parole semplici, invece di affidarsi a meccanismi interni oscuri.
- Allena il modello con enormi quantità di testo
- Chiedigli di spiegare cosa ha imparato
- Risponde in modo chiaro, con parole di tutti i giorni
- Gli utenti leggono la spiegazione senza bisogno di strumenti speciali
Oggi, se qualcuno vuole sapere perché un'AI ha fatto una certa scelta, di solito deve scavare nei meccanismi interni del modello utilizzando strumenti diagnostici complicati — un processo che solo gli specialisti possono affrontare 1. Andreas vuole capovolgere questa idea: allenare i modelli a produrre descrizioni chiare e accurate di ciò che stanno facendo, in un linguaggio che le persone comprendono già.
«Invece di dover usare tutti questi strumenti esterni per cercare di capire cosa succede sotto il cofano, forse possiamo allenare i modelli a parlare di sé stessi in modo accurato», dice Andreas, che è titolare di cattedra nel Dipartimento di Ingegneria Elettrica e Informatica del MIT ed è membro del Computer Science and Artificial Intelligence Laboratory (CSAIL) 1.
Perché i modelli hanno bisogno di interpreti
Andreas non vede questo obiettivo semplicemente come rendere l'AI più simpatica. Il suo scopo è più pratico: quando decisioni cruciali — diagnosi mediche, approvazioni finanziarie, sentenze legali — dipendono dall'output di un modello, gli esperti devono poter contare sulla consapevolezza di ciò che il sistema sa e su come si comporterà in situazioni nuove 1.
In passato, fare debug di un'AI significava esaminare i suoi parametri, cioè i valori numerici che il modello apprende durante l'addestramento, e verificare se sembrassero ragionevoli. I modelli attuali sono troppo grandi e complessi perché questo funzioni. «Un tempo facevamo debug dei sistemi soltanto guardando i loro parametri e chiedendoci se avessero senso o meno. Ora abbiamo bisogno di "strumenti per leggere il pensiero" che possano prendere questo calcolo neurale davvero complesso e tradurlo per noi, perché semplicemente non è in una lingua che noi, come esseri umani, sappiamo parlare», spiega 1.
Il suo approccio si basa sugli stessi tipi di intuizione che alimentano i modelli linguistici testo-in-testo di oggi: sistemi addestrati su ingenti quantità di testi capaci di generare, riassumere o rispondere a domande in linguaggio naturale. Studiando come le macchine acquisiscono il linguaggio, il gruppo di Andreas spera anche di rendere l'addestramento dell'AI più naturale ed efficiente — più vicino al modo in cui gli esseri umani apprendono interagendo con il mondo e ricevendo indicazioni.
Dai giochi di programmazione alla ricerca sul linguaggio
Il percorso di Andreas verso questa domanda è insolito. Da bambino nella Bay Area di San Francisco, divorava libri; uno che ritraeva un teenager che penetrava illegalmente in un sistema informatico lo incuriosì per primo verso l'informatica 1. Alcuni anni dopo suo padre portò a casa un motore BASIC — una piattaforma di programmazione primordiale — e Andreas iniziò a insegnarsi da solo a programmare .
All'Università di Columbia, inizialmente aveva pianificato di scegliere tra carriera accademica, ingegneria del software o startup. Quando alcuni amici si iscrissero a progetti di ricerca, inviò email a ogni professore legato all'AI del dipartimento; il corpo docente che si occupava di elaborazione del linguaggio naturale fu il primo a rispondere, orientandolo verso quel campo 1. Lavorando nel laboratorio di Michael Collins, completò una tesi di laurea triennale sulla traduzione automatica, adattando metodi statistici per la rappresentazione del significato a architetture di AI più recenti .
«Avevo sempre sentito che domande più profonde su come funziona il pensiero o su come modellare il mondo erano più in superficie nei problemi di elaborazione del linguaggio rispetto agli altri compiti su cui le persone di AI stavano lavorando all'epoca», ricorda 1.
Dopo aver trascorso un anno a conseguire una laurea magistrale all'Università di Cambridge in Inghilterra, entrò nel laboratorio di Dan Klein alla UC Berkeley per il dottorato — proprio mentre il settore passava dagli approcci statistici più datati al deep learning, che impara schemi complessi automaticamente da enormi insiemi di dati 1. In seguito collaborò con laboratori di visione artificiale per costruire sistemi capaci di generare linguaggio mentre comprendevano simultaneamente input visivi, mettendo a punto alcuni dei primi toolkit congiunti di linguaggio e visione .
Come comprendiamo le decisioni dell'IA — ora vs. ciò che Andreas immagina
Dall'intervista e dai reportage di Jacob Andreas presso il MIT CSAIL
Formare i ricercatori del futuro
Andreas ha recentemente ottenuto la cattedra permanente (tenure) al MIT, dove continua a spingere per fondamenta tecniche più solide tra gli studenti che si avvicinano al settore.
«Cerco di far capire agli studenti che avere una base davvero profonda su come funziona tutta questa tecnologia sotto il cofano è l'unico modo per capirla, ed è ciò che li distinguerà in un mondo in cui tutti hanno accesso a un agente di programmazione», dice 1.
Mentre i sistemi di AI crescono sempre più integrati nella vita quotidiana — dagli smartphone agli strumenti di lavoro — essere in grado di leggere e interpretare ciò che questi modelli stanno effettivamente facendo potrebbe diventare essenziale quanto saperli usare fin dall'inizio.
Questa storia segna un trend a puro scopo informativo. Non costituisce consiglio né invito a intraprendere alcuna di queste azioni.
I fatti principali
- Jacob Andreas è professore associato al MIT e si occupa di come i modelli di AI possano descrivere il proprio addestramento in linguaggio umano
- Il suo lavoro mira a implementazioni di AI ad alto rischio, in cui comprendere il comportamento del modello è cruciale
- Sostiene che il debug attuale richieda speciali "strumenti per leggere il pensiero" per i calcoli neurali opachi
- La sua ricerca è iniziata con la traduzione automatica alla Columbia University e si è spostata verso sistemi congiunti di linguaggio e visione a Berkeley
- Andreas ha recentemente ottenuto la cattedra permanente (tenure) al MIT ed è fautore di conoscenze fondamentali profonde nell'insegnamento dell'AI
Fonti
Se questa notizia riguarda te o la tua azienda, o usa qualcosa che ti appartiene, chiedi una correzione o la rimozione. Come funzionano le richieste
Continua a leggere
Come funzionaUn nuovo metodo rende accurati al 93% i rivelatori di testo AI, intercettando la scrittura AI mascherataHerald of AI
Un nuovo metodo rende accurati al 93% i rivelatori di testo AI, intercettando la scrittura AI mascherata
Un trucco di addestramento permette agli strumenti di rilevamento di adattarsi in tempo reale, così da restare accurati mentre gli stili di scrittura dell'AI e degli esseri umani continuano a cambiare.
App e prodottiIl copilota AI del MIT permette agli ingegneri di guidare i progetti strutturali in tempo realeHerald of AI
Il copilota AI del MIT permette agli ingegneri di guidare i progetti strutturali in tempo reale
Un nuovo strumento mostra ai progettisti di edifici le bozze create dall'AI e ne chiede l'input, producendo strutture più solide e realizzabili in soli 15 secondi extra.
App e prodottiYogurt ti permette di registrare e riassumere le riunioni con un'AI che gira interamente sul tuo computerHerald of AI
Yogurt ti permette di registrare e riassumere le riunioni con un'AI che gira interamente sul tuo computer
Un'app open-source gratuita trasforma le tue chiamate in trascrizioni e riassunti senza inviare alcun dato al cloud.