H-JEPA permette all'IA di pianificare a più livelli di astrazione

Costruire una mappa mentale che pensa per livelli

H-JEPA è una nuova tecnica di IA che aiuta le macchine a pianificare per lunghi periodi di tempo organizzando il loro pensiero in livelli separati di dettaglio. Invece di cercare di gestire ogni piccolo movimento e l'obiettivo generale in un unico grande cervello, H-JEPA divide il compito in una gerarchia in cui ogni livello gestisce la propria scala temporale.

L'idea si basa su un sistema precedente chiamato JEPA, che sta per Joint-Embedding Predictive Architecture. Un modello JEPA impara a prevedere cosa accadrà dopo confrontando versioni codificate della situazione attuale e degli stati futuri ¹. Ma il JEPA standard funziona a una singola scala temporale — o prevede il futuro vicino in dettaglio, o il futuro lontano a un livello alto, ma non entrambe le cose bene contemporaneamente.

H-JEPA risolve questo problema impilando più modelli JEPA uno sopra l'altro. Ogni livello più in alto impara a guardare più in là nel suo spazio astratto. I dettagli che cambiano rapidamente come i movimenti delle gambe vengono filtrati in alto, mentre le informazioni più lente e importanti come la posizione complessiva rimangono chiare ².

Come funziona la gerarchia

Pianificare con H-JEPA scorre dall'alto verso il basso. Il livello più alto fissa un obiettivo astratto, come "raggiungere l'uscita del labirinto." Le sue previsioni diventano poi sotto-obiettivi per il livello sottostante, che li scomporre in passi più piccoli. Il livello più basso infine trasforma quei passi in azioni effettive ².

Tutti i livelli vengono addestrati insieme in un unico passaggio. I gradienti dagli obiettivi top-down fluiscono indietro attraverso i encoder inferiori, così ogni livello impara a servire l'intera gerarchia ³. Un metodo di regolarizzazione chiamato SIGReg previene che il sistema collassi in una rappresentazione inutile durante l'addestramento ².

Questo design a strati rispecchia il modo in cui gli esseri umani pianificano. Potresti decidere di guidare fino a una città, poi capire quali strade prendere, poi sterzare — ogni passo vive a un livello diverso di dettaglio.

Risultati migliori in mondi simulati

I ricercatori hanno testato H-JEPA in quattro ambienti simulati, inclusi compiti di navigazione e manipolazione ³. Su Visual AntMaze, una gerarchia a tre livelli ha aumentato i tassi di successo dal 18% al 73%, utilizzando meno calcolo di pianificazione rispetto a un modello JEPA piatto ².

Ulteriori analisi hanno mostrato che i miglioramenti provenivano da due fonti: la suddivisione della pianificazione attraverso scale temporali e la possibilità per i livelli superiori di formare rappresentazioni degli obiettivi più limpide ³. L'aggiunta della supervisione della dinamica inversa ha anche migliorato le prestazioni su video di robot reali dal dataset DROID, con una maggiore fedeltà alla pianificazione offline a minor costo computazionale .

Il codice per H-JEPA è stato rilasciato come implementazione in PyTorch, incluso una variante di apprendimento auto-supervisionato con patch mascherate e un'opzione di addestramento end-to-end ⁴.

I fatti principali

• H-JEPA impila più modelli JEPA in una gerarchia per la pianificazione multiscala
• Su Visual AntMaze, una gerarchia a tre livelli ha aumentato il successo dal 18% al 73%
• Ogni livello più in alto prevede più avanti nel suo spazio latente appreso
• L'approccio ha anche migliorato la pianificazione su video di robot reali dal dataset DROID
• Tutti i livelli vengono addestrati end-to-end con gradienti che fluiscono attraverso la gerarchia

Fonti

1. H-JEPA teaches world models to plan at multiple levels of abstraction - VentureBeat — venturebeat.com
2. H-JEPA: Hierarchical World Models for Visual Planning
3. 2610.06805 H-JEPA: End-to-End Learning of Hierarchical World Models ...
4. GitHub - jonwiggins/H-JEPA: PyTorch implementation of Hierarchical ...