Nace AI lancia Drex Max v1, un modello decisionale da 27B che gira sul tuo Mac

Cosa potresti farci

• Un’azienda potrebbe eseguire chiamate di instradamento, classificazione e verifica delle policy localmente su Mac con Apple Silicon per tenere i dati sensibili fuori da Internet ed evitare le tariffe delle API cloud a chiamata ¹.
• Uno sviluppatore potrebbe integrare il modello nelle applicazioni tramite una comune API POST /v1/systemone per decisioni veloci come triare ticket di assistenza o applicare regole di guardrail ¹.
• Un team aziendale di contabilità potrebbe automatizzare le operazioni back-office e front-office end-to-end usando i modelli specializzati di Nace a un decimo del costo dei grandi modelli linguistici ³.

Cosa fa realmente Drex Max

Drex Max è un modello denso da 27 miliardi di parametri con una finestra di contesto da 262.144 token, anche se di default usa 16.384 token per richiesta ¹. A differenza di un chatbot, non genera parole. Gli invii uno stato — testo, JSON o immagini — insieme a domande con nome, e lui restituisce una probabilità per ogni opzione in un singolo forward pass . Le domande arrivano in tre varianti: scelta multipla tra opzioni con nome, sì/no, e un punteggio ordinale .

Questo design rende il modello utile per compiti in cui un agente o un’applicazione deve decidere dove mandare dopo una richiesta, classificare un ticket di assistenza o applicare una regola di guardrail. L’azienda dice che la versione ospitata già gestiva instradamenti, classificazioni e verifiche di policy per i suoi clienti ¹. Ora gli sviluppatori possono eseguire la stessa logica sulle proprie macchine .

Architettura e runtime locali

Il modello usa un’architettura mista: 64 strati in totale, con 48 strati lineari Gated DeltaNet a attenzione che processano i token da sinistra a destra e 16 strati a piena attenzione posizionati ogni quarto passo che sono non causali, cioè ogni token può vedere l’intera sequenza ¹. Una torre vision nativa converte le immagini in modo che ogni domanda in una richiesta possa farvi riferimento . Lo strato di output è un head di lettura a 255 vie che trasforma lo stato nascosto finale in probabilità delle opzioni .

Nace ha pubblicato pesi bf16, un checkpoint GGUF Q8_0, un checkpoint affine Q4, e fork modificati di entrambi llama.cpp e Ollama così che gli utenti possano servire il modello attraverso una comune API POST /v1/systemone ¹. Affine Q4 gira su Mac con Apple Silicon da 24 GB di memoria o più; Q8_0 GGUF richiede 48 GB . Gli utenti di GPU NVIDIA possono eseguire la versione bf16 su un H100 o la versione a 8 bit su un L40S con 48 GB di VRAM . L’inferenza CPU è disponibile tramite i fork llama.cpp e Ollama .

Performance che batte le versioni precedenti

Sul benchmark pubblico Decision Index 0.4, Drex Max v1 ha segnato 67,52, lasciando indietro il precedente Drex v2.0 di 6,27 punti (61,25) e Jev 1.13.0 di 9,56 punti (57,96) ¹. Tutte le figure sono auto-dichiarate da Nace AI . Il modello ha anche raggiunto 97,3 su InfographicVQA e 81,9 nella categoria strumenti della sua ripartizione skill per area . Sull’Decision Index di Artificial Analysis il modello si è classificato 4° su 18 modelli testati con un punteggio di 64 . In JevBench ha ottenuto 92,2%, e su Decision Bench v4 ha raggiunto il 94,30% .

Nei test di Nace, le quantizzazioni si sono comportate in modo affidabile. Su un Apple M5 Pro da 48 GB, la versione H100 bf16 e il modello Q8_0 GGUF hanno raggiunto un’accuratezza che corrispondeva entro 0,02 di probabilità, mentre la variante affine Q4 si è mantenuta entro 0,0329 rispetto a Q8_0 senza produrre flip di scelta. Le esecuzioni locali su Mac e CPU sono per ora solo testo; il supporto alle immagini richiede il runtime Python GPU ¹.

Prezzi e disponibilità

I pesi sono aperti sotto la licenza Nace.AI Open RAIL-M e sono disponibili su Hugging Face ¹². Al lancio il prezzo dell’API ospitata è $0,03 per 1.000 decisioni, in calo rispetto a $0,06 per Drex v2.0 e $0,04 per Drex v1.5 . L’API ospitata per Jev costa $42 per 1 milione di compiti . Per gli sviluppatori che vogliono self-hostare su Apple Silicon, il checkpoint più piccolo è l’affine Q4 a 14,45 GB . Il modello è adatto a team che già eseguono carichi di lavoro su Mac o preferiscono tenere la logica decisionale on-premises .

I fatti principali

• Drex Max v1 è un modello decisionale denso da 27B con finestra da 262.144 token, reso open-source da Nace AI sotto RAIL-M
• Segna 67,52 su Decision Index 0.4, superando Drex v2.0 (61,25) e Jev 1.13.0 (57,96)
• Affine Q4 gira su Mac Apple Silicon da 24 GB+; Q8_0 GGUF richiede 48 GB; GPU NVIDIA supportano varianti bf16 e a 8 bit
• Q8_0 su M5 Pro corrisponde a H100 bf16 entro 0,02 di probabilità; affine Q4 rimane entro 0,0329 senza flip di scelta
• Prezzo di lancio ospitato è $0,03 per 1K decisioni, metà del costo di Drex v2.0

Fonti

1. Nace AI Open-Sources Drex Max v1: A 27B Decision Model That Runs Locally on Apple Silicon — marktechpost.com
2. nace-ai/drex-max-v1 · Hugging Face — aicampaign.live
3. Nace.AI: Small models for professional work