Recursive Releases Flint, a 40B Open-Weight Local Coding Model for Agents

What you could do with it

• Un desarrollador común podría corregir automáticamente errores, escribir pruebas y agregar funciones a su software en su propia computadora en lugar de pagar por servicios de IA en la nube ¹.
• Un investigador podría descargar, estudiar y modificar el modelo de peso abierto libremente ya que está licenciado bajo Apache 2.0 ¹.
• Un programador podría ejecutar un asistente de codificación local rápido que investiga bases de código enteras y implementa cambios de forma autónoma en hardware de consumo como una MacBook ¹.

A New Local Coding Model

Recursive Superintelligence ha lanzado su primer modelo de IA, llamado Flint. Es un modelo de lenguaje grande diseñado específicamente para agentes de codificación: programas que investigan bases de código, corrigen errores, escriben pruebas y agregan funciones por sí mismos. El modelo tiene pesos abiertos y está licenciado bajo Apache 2.0, lo que significa que cualquiera puede descargarlo, estudiarlo y modificarlo ¹.

Flint es un modelo de mezcla de expertos (MoE). Esto significa que tiene muchas redes «expertas» más pequeñas dentro de él, pero solo una pequeña porción procesa cada fragmento de texto a la vez. Tiene 39,8 mil millones de parámetros en total, pero solo alrededor de 2,5 mil millones están activos por cada token que genera. Eso lo hace mucho más rápido y ligero para ejecutar en comparación con modelos donde todos los parámetros siempre están en uso ¹.

Built by an Automated Research System

Según Recursive, la Eureka Machine, un sistema que automatiza la investigación, fue responsable de construir casi cada componente del modelo. El sistema propone ideas, las implementa, las prueba y luego decide qué intentar a continuación. Entre sus contribuciones hubo un enfoque creativo para la compresión: cuantificó (comprimió) la capa de salida del modelo a solo 4 bits, lo cual es inusual. Normalmente esta parte permanece sin comprimir. Un paso de entrenamiento fuera de línea que utilizó el modelo original de precisión completa como maestro recuperó la mayor parte de la precisión perdida, y casi redujo a la mitad el tiempo de entrenamiento en comparación con métodos estándar ¹.

El equipo también escribió código personalizado para procesar matemáticas de pocos bits, operaciones MoE, atención y manejo de prompts. En chips Apple M4 y M5, un kernel especial combina todo el paso de decodificación en una sola operación, lo que lo hace muy rápido ¹.

Performance and Benchmarks

Flint ocupa el primer lugar en el gráfico de Recursive para modelos MoE de menos de 50 mil millones de parámetros en tareas de codificación agentivas, pero queda detrás de los modelos densos más potentes, es decir, modelos que usan todos sus parámetros a la vez ¹. En SWE-bench Verified, una prueba que mide qué tan bien los modelos pueden resolver problemas reales de ingeniería de software, Flint obtuvo 74,2 %. Un modelo denso de Qwen, Qwen 3,8, obtuvo 73,0 % en Terminal-Bench, una prueba de codificación diferente, mientras que Flint obtuvo 54,9 % . En LiveCodeBench, Flint alcanzó 80,3 %, en comparación con 80,4 % para Qwen 3,5 MoE .

Recursive afirma que el modelo funciona a velocidades superiores a 125 tokens por segundo en una MacBook Pro con M4 Pro y supera los 150 tokens por segundo en una NVIDIA RTX Spark, lo cual, según la empresa, equivale a duplicar el rendimiento de modelos similares ¹. También afirma que Flint funciona más de cinco veces más rápido que modelos densos de 25 a 40 mil millones de parámetros con puntuaciones de codificación similares .

Hardware Requirements

La versión de 4 bits de Flint ocupa alrededor de 23 gigabytes y funciona en Macs con Apple Silicon que tengan al menos 48 GB de memoria, como los M4 Pro, M5 Pro o M5 Max, o en GPU NVIDIA con 48 GB de memoria ¹. La versión de precisión completa requiere un checkpoint de 80 GB y necesita una GPU de nivel servidor como la NVIDIA B300 o H200 . Flint también es compatible con herramientas populares de modelos locales, incluidas Llama.cpp, Ollama, Unsloth, LM Studio, vLLM y SGLang .

Los datos clave

• Flint tiene 39,8B de parámetros totales con aproximadamente 2,5B activos por token
• Funciona en GPU de Apple Silicon o NVIDIA de 48 GB, con pesos de 4 bits que ocupan ~23 GB
• Obtiene 74,2 % en SWE-bench Verified y 95,1 % en IFEval
• Construido usando el sistema de investigación automatizado Eureka Machine de Recursive
• Pesos abiertos bajo licencia Apache 2.0

Fuentes

1. Recursive Releases Flint, an Open-Weight 40B MoE Local Coding Model for Agents with 2.5B Active Params — marktechpost.com