IAGenerado
EN · IT · ES

Nace AI lanza Drex Max v1, un modelo de decisión de 27B que se ejecuta en tu propia Mac

Las empresas ya pueden hacer solicitudes de enrutamiento, clasificación y comprobación de políticas de forma local, en Apple Silicon, sin pagar por servicios API en la nube.

Apple silicon, procesadores system-on-chip diseñados por Apple Inc.
Foto: Henriok, CC0, via Wikimedia Commons

Qué podrías hacer con él

  • Una empresa podría ejecutar llamadas de enrutamiento, clasificación y verificación de políticas localmente en Macs con Apple Silicon para mantener datos sensibles fuera de Internet y evitar tarifas por llamada a APIs en la nube 1.
  • Un desarrollador podría integrar el modelo en aplicaciones a través de una API común POST /v1/systemone para tareas rápidas de decisión como priorizar tickets de soporte o hacer cumplir reglas de protección 1.
  • Un equipo de contabilidad empresarial podría automatizar operaciones de back-office y front-office de extremo a extremo utilizando los modelos especializados de Nace a una décima parte del costo de los grandes modelos de lenguaje 3.

Lo que realmente hace Drex Max

Drex Max es un modelo denso de 27 mil millones de parámetros con una ventana de contexto de 262.144 tokens, aunque por defecto usa 16.384 tokens por solicitud 1. A diferencia de un chatbot, no genera palabras. Le envías un estado —texto, JSON o imágenes— junto con preguntas con nombre, y devuelve una probabilidad por cada opción en un solo paso de inferencia . Las preguntas vienen en tres sabores: opción múltiple entre opciones con nombre, sí o no, y una puntuación ordinal .

Ese diseño hace que el modelo sea útil para tareas donde un agente o aplicación debe decidir hacia dónde va una solicitud接下来, clasificar un ticket de soporte o hacer cumplir una regla de protección. La compañía dice que la versión alojada ya impulsaba enrutamiento, clasificación y verificaciones de políticas para sus clientes 1. Ahora los desarrolladores pueden ejecutar la misma lógica en sus propias máquinas .

De un vistazo

Cómo ejecutar Drex Max v1

API alojadaEjecutar localmente en tu Mac
Costo0,03 $ por 1.000 decisionesGratis — tú proporcionas el Mac
Privacidad de los datosSe envía a los servidores de Nace AIPermanece en tu propia máquina
Hardware mínimoNinguno: basta con una llamada a la APIMac con chip Apple Silicon y 24 GB de RAM (cuantización affine Q4)
Ideal paraEquipos sin infraestructura dedicadaEquipos que deben mantener datos sensibles fuera de internet
Dónde se alojan los pesosCon Nace AIEn Hugging Face, bajo una licencia abierta

Autodeclarado por Nace AI; cifras de hardware y precios de los detalles del lanzamiento [1][2]

Arquitectura y entornos de ejecución locales

El modelo utiliza una arquitectura mixta: 64 capas en total, con 48 capas lineales de atención DeltaNet con puerta que procesan tokens de izquierda a derecha y 16 capas de atención completa colocadas cada cuarto paso que son no causales, lo que significa que cada token puede ver toda la secuencia 1. Una torre de visión nativa convierte las imágenes para que cada pregunta en una solicitud pueda referenciarlas . La capa de salida es una cabeza de lectura de 255 vías que convierte el estado oculto final en probabilidades de opciones .

Nace publicó pesos bf16, un punto de control Q8_0 GGUF, un punto de control afinado Q4, y bifurcaciones modificadas de ambos llama.cpp y Ollama para que los usuarios puedan servir el modelo a través de una API común POST /v1/systemone 1. El afinado Q4 se ejecuta en Macs con Apple Silicon de 24 GB de memoria o más; Q8_0 GGUF requiere 48 GB . Los usuarios de GPU NVIDIA pueden ejecutar la versión bf16 en una H100 o la versión de 8 bits en una L40S con 48 GB de VRAM . La inferencia en CPU está disponible a través de las bifurcaciones de llama.cpp y Ollama .

Rendimiento que supera versiones anteriores

En el benchmark público Decision Index 0.4, Drex Max v1 obtuvo 67,52, dejando atrás al anterior Drex v2.0 por 6,27 puntos (61,25) y a Jev 1.13.0 por 9,56 puntos (57,96) 1. Todas las cifras son autoinformadas por Nace AI . El modelo también alcanzó 97,3 en InfographicVQA y 81,9 en la categoría de herramientas de su desglose de habilidades por área . En el propio Decision Index de Artificial Analysis, el modelo se clasificó 4.º entre 18 modelos probados con una puntuación de 64 . En JevBench logró 92,2 %, y en Decision Bench v4 alcanzó 94,30 % .

En las pruebas de Nace, las cuantizaciones funcionaron de manera confiable. En un Apple M5 Pro de 48 GB, la versión H100 bf16 y el modelo Q8_0 GGUF lograron precisión coincidente dentro de 0,02 de probabilidad, mientras que la variante afinada Q4 se mantuvo dentro de 0,0329 de Q8_0 y no produjo cambios de elección. Las ejecuciones locales en Mac y CPU son solo texto por ahora; el soporte de imágenes requiere el entorno de ejecución Python para GPU 1.

Decision Index 0.4 scores
Drex Max v167.52Drex v2.061.25Jev 1.13.057.96

accuracy on a public decision‑making benchmark (higher is better). Más alto es mejor. Datos: self‑reported by Nace AI [1]. Gráfico de Herald of AI.

Precios y disponibilidad

Los pesos están abiertos bajo la licencia Nace.AI Open RAIL-M y están disponibles en Hugging Face 1. En el lanzamiento, el precio de la API alojada es de $0,03 por 1.000 decisiones, bajando de $0,06 para Drex v2.0 y $0,04 para Drex v1.5 . La API alojada para Jev cuesta $42 por 1 millón de tareas . Para desarrolladores que deseen autoalojarse en Apple Silicon, el punto de control más pequeño es el afinado Q4 de 14,45 GB . El modelo es más adecuado para equipos que ya ejecutan cargas de trabajo en Macs o prefieren mantener la lógica de decisión in situ .

Los datos clave

  • Drex Max v1 es un modelo de decisión denso de 27B con una ventana de 262.144 tokens, de código abierto por Nace AI bajo RAIL-M
  • Obtiene 67,52 en Decision Index 0.4, superando a Drex v2.0 (61,25) y Jev 1.13.0 (57,96)
  • El afinado Q4 se ejecuta en Macs con Apple Silicon de 24 GB o más; Q8_0 GGUF requiere 48 GB; las GPU NVIDIA admiten variantes bf16 y de 8 bits
  • Q8_0 en un M5 Pro iguala a H100 bf16 dentro de 0,02 de probabilidad; el afinado Q4 se mantiene dentro de 0,0329 sin cambios de elección
  • El precio de lanzamiento alojado es $0,03 por 1K decisiones, la mitad del costo de Drex v2.0

Fuentes

  1. Nace AI Open-Sources Drex Max v1: A 27B Decision Model That Runs Locally on Apple Silicon — marktechpost.com
  2. Nace.AI: Small models for professional work

Si esta noticia te afecta a ti o a tu empresa, o usa algo que te pertenece, pide una corrección o que se retire. Cómo funcionan las solicitudes

Sigue leyendo