AIGenerato
EN · IT · ES

Perplexity Decider v1.3 permette all'AI di prendere decisioni più velocemente con un nuovo strumento per estrarre testo

Il nuovo modello aiuta le app a ordinare, classificare e trovare testo specifico molto meno di quanto richiederebbe un'AI generativa.

Perplexity Decider v1.3 permette all'AI di prendere decisioni più velocemente con un nuovo strumento per estrarre testo
Immagine: perplexity.ai
Come funziona

Un programma che mette i documenti in categorie e ne estrae pezzi di testo precisi invece di scrivere risposte lunghe.

  1. Mandagli un documento e qualche domanda
  2. Valuta tutte le etichette possibili in una sola passata
  3. Ti ritrovi le risposte divise per categoria e i brani di testo esatti

Cosa cambia in v1.3

Il nuovo Decider v1.3 è la versione più grande; una versione più piccola "Flash" gira con molto meno hardware 1. Entrambi i modelli sono open source sotto licenza Apache, il che significa che chiunque può scaricarli ed eseguirli sulle proprie macchine da Hugging Face oppure usarli attraverso API online ospitate da Perplexity o OpenRouter .

La novità più grande è una funzionalità chiamata "Locate", che estrae brani esatti di testo dai documenti insieme alle loro posizioni in caratteri 2. Ad esempio, se chiedi al modello di trovare tutti i nomi delle città in un annuncio di lavoro, Locate restituisce ciascuna città insieme a esattamente dove appare nel testo 1. Questo aiuta in compiti come individuare dati personali nei documenti, rispondere a domande di comprensione della lettura, o estrarre informazioni strutturate senza generare riassunti approssimativi .

Come funzionano i modelli decisionali

Un modello decisionale è diverso da un chatbot: invece di scrivere parole, assegna probabilità a un insieme di etichette predefinite come sì/no o opzioni a scelta multipla 2. Tu gli fornisci un input — un paragrafo, un'immagine, o anche centinaia di migliaia di token — insieme a diverse domande su di esso, e lui risponde a tutte in un solo passaggio condividendo il calcolo tra ogni domanda .

Perplexity ha adattato un modello linguistico generativo standard potando il suo strato di uscita fino ai token-etichetta, bloccando la maggior parte del nucleo, e aggiungendo piccoli adattatori di affinamento 1. Il modello completo si basa su Qwen3.8-27B, usa l'attenzione bidirezionale così che il testo iniziale e finale si influenzino reciprocamente in modo uguale, ed è stato addestrato in tre fasi su dataset pubblici tra cui un adattatore visivo . La variante Flash è distillata dal modello più grande abbinando le sue uscite probabilistiche 2.

In un colpo d’occhio

Costo di ordinamento e classificazione del testo

  • Decider v1.3$0,02
  • Flash v1.3$0,01

Prezzi API di Perplexity

Numeri e costi

Sui benchmark interni riportati da Perplexity, il modello completo da 27 miliardi di parametri ha ottenuto il 91,6 percento di accuratezza media su 63 task di classificazione di query, superando Jev 1.14 di TypeSafe 1. Ha anche primeggiato nelle classifiche di recupero, nella classificazione multilingue e nella valutazione delle immagini, anche se Locate ha fatto media 69,0 — inferiore alle altre categorie . Flash ha seguito Jev nei task di finanza, programmazione e diritto .

Per l'uso reale, Perplexity ha riportato il 93,98 percento di accordo con i giudici LLM frontier su un milione di richieste di produzione, rispetto al 93,35 percento per Jev 1.14 1. I ribaltamenti di risposta causati dal riordinare le domande sono scesi allo 0,27 percento contro fino al 4,84 percento per Jev .

Il prezzo tramite l'API è $0,02 per milione di token di input per v1.3 e $0,01 per Flash, con uscita gratuita 1. Eseguire localmente richiede circa 49 GiB di memoria GPU per il modello completo o 8,5 GiB per Flash, usando precisione BF16 senza varianti quantizzate attualmente disponibili . Le finestre di contesto raggiungono poco meno di 256K token tramite l'API e sono impostate di default a 32.768 localmente .

Questa storia fornisce sole informazioni. Non è consiglio né incoraggiamento a fare alcunché.

Quanto è bravo

Su 63 task di classificazione di query autodichiarati, Perplexity Decider v1.3 ha raggiunto un'accuratezza media del 91,6 %, collocandosi circa sei punti e mezzo sopra i classifier di produzione e davanti a Jev 1.14 di TypeSafe attraverso sette domini, tra cui finanza, dove ha guidato di fino a 12,9 punti 1. Ha anche vinto nelle classifiche di recupero con un nDCG@10 di 83,99 e ha valutato l'88,16 % sui task multilingue attraverso otto lingue . Nei test reali che coprivano un milione di richieste di produzione, il modello ha concordato con i giudici LLM frontier per il 93,98 % delle volte, e il suo tasso di ribaltamento delle risposte è sceso a appena lo 0,27 % rispetto a fino al 4,84 % per Jev, secondo Perplexity .

Multilingual Classification Accuracy
Decider v1.388.16%Decider Flash v1.386.5%Jev 1.1485.41%

Percentage of correct classifications across 19 tasks in 8 languages. Più alto è meglio. Numeri: Perplexity. Grafico di Herald of AI.

I fatti principali

  • Decider v1.3 (27B) e Flash v1.3 (4B) sono modelli decisionali open-weight disponibili su Hugging Face sotto licenza Apache 2.0
  • La nuova funzione Locate estrae span di testo esatti con offset di caratteri per NER, rilevamento PII e QA estrattiva
  • I modelli decisionali restituiscono probabilità sulle etichette invece di testo generato, rispondendo a più domande in un solo passaggio
  • I prezzi API sono $0,02/M token per v1.3 e $0,01/M per Flash; il deployment locale serve ~49 GiB o ~8,5 GiB di VRAM BF16
  • Benchmark auto-dichiarati mostrano il 91,6% di accuratezza su 63 task di classificazione e lo 0,27% di tasso di ribaltamento delle risposte

Fonti

  1. Perplexity Releases Decider v1.3: Open-Weight Decision Models Add Locate — marktechpost.com
  2. Perplexity Decider v1.3: Training, eval, and use cases

Se questa notizia riguarda te o la tua azienda, o usa qualcosa che ti appartiene, chiedi una correzione o la rimozione. Come funzionano le richieste

Continua a leggere