Recursive Releases Flint, a 40B Open-Weight Local Coding Model for Agents

What you could do with it

• Un sviluppatore comune potrebbe correggere automaticamente i bug, scrivere test e aggiungere funzionalità al proprio software sul proprio computer invece di pagare servizi AI nel cloud ¹.
• Un ricercatore potrebbe scaricare, studiare e modificare liberamente il modello open-weight poiché è concesso in licenza sotto Apache 2.0 ¹.
• Un programmatore potrebbe eseguire un veloce assistente di codifica locale che indaga l'intero codebase e implementa modifiche in autonomia su hardware consumer come un MacBook ¹.

A New Local Coding Model

Recursive Superintelligence ha rilasciato il suo primo modello AI, chiamato Flint. È un modello linguistico di grandi dimensioni progettato specificamente per agenti di codifica — programmi che indagano i codebase, correggono bug, scrivono test e aggiungono funzionalità in autonomia. Il modello è open-weight e concesso in licenza sotto Apache 2.0, il che significa che chiunque può scaricarlo, studiarlo e modificarlo ¹.

Flint è un modello mixture-of-experts (MoE). Questo significa che ha molte più piccole reti "esperte" al suo interno, ma solo una piccola parte elabora ogni pezzo di testo alla volta. Ha 39,8 miliardi di parametri in totale, ma solo circa 2,5 miliardi sono attivi per ogni token che genera. Questo lo rende molto più veloce e leggero da eseguire rispetto ai modelli in cui tutti i parametri sono sempre utilizzati ¹.

Built by an Automated Research System

Secondo Recursive, la Eureka Machine — un sistema che automatizza la ricerca — è stata responsabile della costruzione di quasi ogni componente del modello. Il sistema propone idee, le implementa, le testa e poi decide cosa provare dopo. Tra i suoi contributi c'era un approccio creativo alla compressione: ha quantizzato (compresso) lo strato di output del modello a soli 4 bit, il che è insolito. Normalmente questa parte rimane non compressa. Un passo di allenamento offline che utilizzava il modello originale a piena precisione come insegnante ha recuperato la maggior parte dell'accuratezza persa, e ha quasi dimezzato i tempi di allenamento rispetto ai metodi standard ¹.

Il team ha inoltre scritto codice personalizzato per l'elaborazione della matematica a basso bit, le operazioni MoE, l'attention e la gestione dei prompt. Su chip Apple M4 e M5, un kernel speciale combina l'intero passo di decoding in un'unica operazione, rendendolo molto veloce ¹.

Performance and Benchmarks

Flint si classifica in cima alla tabella di Recursive per i modelli MoE sotto i 50 miliardi di parametri nelle attività di codifica agentica, ma è indietro rispetto ai modelli dense più forti — i modelli che usano tutti i loro parametri contemporaneamente ¹. Su SWE-bench Verified, un benchmark che misura quanto bene i modelli possono risolvere problemi reali di ingegneria del software, Flint ha segnato 74,2%. Un modello dense di Qwen, Qwen 3.8, ha segnato 73,0% su Terminal-Bench, una sfida di codifica diversa, mentre Flint ha segnato 54,9% . Su LiveCodeBench, Flint ha ottenuto 80,3%, in confronto all'80,4% di Qwen 3.5 MoE .

Recursive afferma che il modello gira a velocità superiori a 125 token al secondo su un MacBook Pro M4 Pro e supera i 150 token al secondo su una NVIDIA RTX Spark, che l'azienda dice è fino al doppio delle prestazioni di modelli simili ¹. Afferma inoltre che Flint gira più di cinque volte più velocemente dei modelli dense da 25 a 40 miliardi di parametri con punteggi di codifica simili .

Hardware Requirements

La versione a 4 bit di Flint occupa circa 23 gigabyte e gira su Mac con Apple Silicon con almeno 48 GB di memoria — come M4 Pro, M5 Pro o M5 Max — oppure su GPU NVIDIA con 48 GB di memoria ¹. La versione a piena precisione richiede un checkpoint da 80 GB e ha bisogno di una GPU di fascia server come la NVIDIA B300 o H200 . Flint è anche compatibile con popolari strumenti per modelli locali tra cui Llama.cpp, Ollama, Unsloth, LM Studio, vLLM e SGLang .

I fatti principali

• Flint ha 39,8B parametri totali con circa 2,5B attivi per token
• Gira su GPU Apple Silicon o NVIDIA da 48 GB, con pesi a 4 bit che occupano ~23 GB
• Segna 74,2% su SWE-bench Verified e 95,1% su IFEval
• Costruito utilizzando il sistema di ricerca automatizzato Eureka Machine di Recursive
• Open-weight sotto licenza Apache 2.0

Fonti

1. Recursive Releases Flint, an Open-Weight 40B MoE Local Coding Model for Agents with 2.5B Active Params — marktechpost.com