AIGenerato
EN · IT · ES

Un unico quadro matematico prevede il modo migliore per generare immagini e testo

I ricercatori dimostrano che i modelli a diffusione, autoregressivi e ibridi possono essere classificati prima ancora di iniziare la generazione.

Primo piano di una lavagna con un post-it che mostra un'equazione scritta a mano e un disegno.
Foto di archivio · Foto: MART PRODUCTION / Pexels
Come funziona

Un metodo matematico che stabilisce l'ordine con cui i modelli AI dovrebbero generare contenuti prima ancora di iniziare a produrne uno.

  1. Controlla la struttura dei dati e calcola la sua profondità ad albero
  2. Usa i pesi del modello per capire quanto i passi dipendono gli uni dagli altri
  3. Ordina tutti i piani di generazione possibili in base al costo nascosto
  4. Scegli il piano migliore prima che esca anche solo un risultato

Un reticolo per governarli tutti

I modelli a diffusione e quelli autoregressivi (AR) sono stati a lungo considerati famiglie separate di AI generativa. I modelli a diffusione, che rimuovono gradualmente il rumore da un'intera immagine o sequenza tutta insieme, sono diventati lo standard per i dati continui come foto e video. I modelli autoregressivi, che generano un token alla volta condizionatamente a ciò che è venuto prima, hanno dominato domini discreti come il linguaggio 1. Alcuni approcci ibridi recenti hanno cercato di fondere i due metodi, ma ognuno fissa il proprio piano di decodifica per progettazione.

Un nuovo studio sostiene che questa separazione non è necessaria. I ricercatori T. Y. Tsui, Jiatao Gu e Lingjie Liu della University of Pennsylvania presentano un unico quadro teorico chiamato reticolo di corruzione che colloca diffusione, AR e ogni piano intermedio sulla stessa struttura matematica. Ogni possibile decodificatore diventa un percorso attraverso questo reticolo 1.

Il costo è la dipendenza scartata

L'intuizione chiave è come definiscono la qualità di un piano. Misurano il costo di qualsiasi piano di decodifica come la correlazione totale — la dipendenza — che i suoi passaggi paralleli scartano. Questo costo corrisponde alla divergenza del piano dal campionamento esatto, il che significa che quantifica esattamente quanto un dato approccio si allontani dalla generazione perfetta 1.

Da questa definizione emerge una previsione chiara: il numero minimo di passaggi di cui ha bisogno un piano a costo zero è determinato interamente dalla geometria dei dati stessi. Per i dati che seguono una struttura di Markov su un grafo, quel minimo equivale al treedepth del grafo — una misura ben nota della teoria dei grafi. Il treedepth cresce logaritmicamente con la lunghezza della sequenza e linearmente con il lato di una griglia 1. Questa è la stessa regola sia per i token discreti che per i campi continui.

Prevedere prima della decodifica

Quando un piano utilizza meno passaggi del treedepth, deve pagare un costo positivo — una certa dipendenza va sempre persa. Lo studio mostra che è ancora possibile classificare quei piani subottimali prima che inizi qualsiasi decodifica, utilizzando un kernel di dipendenza pairwise stimato direttamente dai pesi del modello preaddestrato 1. Questo significa che non è necessario eseguire la generazione completa per sapere quale piano svolgerà meglio a un numero fisso di passaggi.

Gli autori testano queste previsioni attraverso la generazione di testo, la generazione di immagini e la generazione di video, verificando la maggior parte delle previsioni di classificazione con metriche e benchmark diversi 1. Il lavoro offre ai progettisti di modelli un principio concreto per scegliere e costruire piani di decodifica, indipendentemente dal fatto che si stiano costruendo futuri modelli AR, modelli a diffusione o ibridi da qualche parte nel mezzo.

Il codice del progetto è stato reso pubblico.

Perché è importante

Per anni, scegliere un piano di decodifica è stato in gran parte una decisione ingegneristica: si ottimizzava empiricamente per ogni famiglia di modelli. Questo quadro trasforma quel processo in qualcosa di prevedibile. Se conosci la struttura di dipendenza dei tuoi dati e hai i pesi preaddestrati, puoi classificare i piani in anticipo invece di eseguire dozzine di generazioni di prova 1. Quel passaggio dal metodo per tentativi ed errori a un design guidato dalla teoria potrebbe far risparmiare un calcolo significativo attraverso la prossima generazione di modelli generativi.

1

I fatti principali

  • I modelli a diffusione, AR e ibridi possono tutti essere rappresentati come percorsi su un singolo reticolo di corruzione
  • Il numero minimo di passaggi a costo zero per i dati di Markov equivale al treedepth del grafo — logaritmico rispetto alla lunghezza della sequenza
  • Le classifiche dei piani possono essere previste prima della decodifica utilizzando un kernel di dipendenza pairwise da pesi preaddestrati
  • Le previsioni sono state verificate attraverso benchmark di generazione di testo, immagini e video
  • Il codice è disponibile all'indirizzo https://github.com/TSUITUENYUE/The-Lattice-of-Transition-Laws

Fonti

  1. Paper page - The Lattice of Transition Laws
  2. 2610.11216 The Lattice of Transition Laws - arXiv.org
  3. The Lattice of Transition Laws - arXiv.org
  4. GitHub - TSUITUENYUE/The-Lattice-of-Transition-Laws

Se questa notizia riguarda te o la tua azienda, o usa qualcosa che ti appartiene, chiedi una correzione o la rimozione. Come funzionano le richieste

Continua a leggere