Liquid AI abre los modelos de decisión d1 para elecciones de IA en tiempo real y en el edge

Liquid AI ha lanzado dos modelos de peso abierto, d1-3B y d1-omni-600M, como parte de su nueva familia de modelos de decisión d1 ¹. A diferencia de los modelos de lenguaje estándar que generan texto palabra por palabra, estos modelos leen texto, imágenes o audio y devuelven un conjunto de respuestas tipadas, calculadas con probabilidad, en un solo paso, con cero tokens de salida generados ⁴. El objetivo es la toma de decisiones en tiempo real en hardware de NVIDIA, incluidos servidores DGX, estaciones de trabajo RTX y dispositivos edge Jetson .

Ambos modelos están disponibles en Hugging Face y soportan la biblioteca Transformers y llama.cpp desde el primer día ¹. La LFM Open License v1.0 permite uso comercial gratuito para empresas que ganan menos de $10 millones anuales. d1-3B maneja texto e imágenes, mientras que d1-omni-600M puede procesar texto con una imagen o audio, pero no ambos a la vez .

Cómo funcionan los modelos de decisión

Un modelo de lenguaje grande generativo escribe su respuesta token por token, y tu código tiene que analizar esa salida. Un modelo de decisión omite eso completamente ¹. Toma una situación y un conjunto de preguntas con nombre, las lee una vez y devuelve una probabilidad para cada respuesta permitida .

Hay tres tipos de preguntas: un Noul para respuestas de sí o no, un Choice para elegir una etiqueta de una lista, y un Score para calificar algo en una escala ordenada de 2 a 10 niveles ². Varias preguntas sobre la misma situación pueden hacerse en una sola llamada, y cada respuesta reporta cero tokens de salida ¹.

Liquid AI recomienda estos modelos para enrutamiento de tickets de soporte, moderación de contenido, clasificación de intenciones, puntuación y actuar como barreras de seguridad para agentes de IA ¹. No son modelos de chat, no escriben texto .

Rendimiento y velocidad

En el benchmark Decision Index, d1-3B obtuvo 48,57, superando a todos los modelos por debajo de 10 mil millones de parámetros y quedando justo detrás de Winnow-12B con 50,02 ¹. En siete benchmarks públicos de texto, promedió 82,9, por delante de Decider 4B con 81,1 . d1-omni-600M, aún un lanzamiento de investigación temprana sin cifras de latencia publicadas, promedió 78,4 en las mismas pruebas .

La velocidad es donde estos modelos brillan. En una RTX 4090, una pregunta toma solo 8 milisegundos ¹. En una placa edge Jetson AGX Thor, toma 16 milisegundos, y tres preguntas sobre el mismo estado toman solo 20 milisegundos . Eso los hace adecuados para transmisiones de cámara en vivo y enrutamiento de voz en tiempo real en dispositivos pequeños .

Construyendo para el edge

d1-3B está construido sobre el modelo de visión-lenguaje LFM2.5-VL-3B, mientras que d1-omni-600M parte del backbone LFM2.5-Encoder-350M, que incluye codificadores separados para imágenes y audio ¹. El soporte de audio cubre habla en inglés de hasta 30 segundos .

Liquid AI también mostró d1-3B ejecutando moderación de cámara en vivo y control de gestos a través de su demo Open d1 Arcade, y navegando simulaciones en un dispositivo Jetson ¹. El NVIDIA Jetson AI Lab ha publicado guías de configuración para el modelo .

Los datos clave

• d1-3B y d1-omni-600M son modelos de decisión de peso abierto que devuelven respuestas tipadas con cero tokens de salida
• d1-3B obtiene 48,57 en Decision Index v0.2.1, superando a todos los modelos por debajo de 10B de parámetros
• Una pregunta toma 8 ms en una RTX 4090 y 16 ms en una Jetson AGX Thor
• d1-omni-600M soporta texto con imágenes o audio, pero no ambos a la vez
• La licencia LFM Open v1.0 permite uso comercial gratuito por debajo de $10 millones de ingresos anuales

Seen on social

Announcing d1, our first decision model. It's the first model to outperform Jev on @huggingface 's Decision Index. > wins on multilingual evals > more robust against prompt injection > handles longer inputs more effectively > built for fast, structured decision-making in… pic.twitter.com/sELDdh65Ve

— Liquid AI on X, see the post

Fuentes

1. Liquid AI Releases Open-Weight d1-3B and d1-omni-600M: Multimodal Decision Models With Zero Output Tokens — marktechpost.com
2. Decision Models - Liquid Docs
3. Introducing d1: The most capable decision model, now with vision
4. LiquidAI releases d1-3B and d1-omni-600M decision models with zero ... — korshunov.ai
5. Multimodal open d1 decision models for the edge - Hugging Face