Technologies
llama.cpp
0 noticias.
Todas las historias sobre llama.cpp (0)
Aún no hay ninguna historia sobre llama.cpp: las que aparecen a continuación solo la mencionan.
También mencionado en (4)
Historias sobre otro tema que nombran llama.cpp de paso, con la oración que lo hace.
- Nace AI abre Drex Max v1, un modelo de decisión de 27B que funciona en tu propia Mac"Nace publicó pesos bf16, un checkpoint Q80 GGUF, un checkpoint affine Q4 y forks modificados tanto de llama.cpp como de Ollama para que los usuarios puedan servir el modelo a través de una API común POST /v1/systemone."
- Recursive Releases Flint, un modelo de codificación local de 40B y pesos abiertos para agentes"Flint también es compatible con herramientas populares de modelos locales que incluyen Llama.cpp, Ollama, Unsloth, LM Studio, vLLM y SGLang."
- Liquid AI lanza modelo de pesos abiertos diseñado para agentes rápidos en dispositivo"El modelo se entrega con soporte desde el primer día para herramientas populares de inferencia de código abierto que incluyen llama.cpp, MLX, vLLM, SGLang y ONNX."
- Modelo comprimido de 27B supera a la versión completa en llamadas de herramientas con menos de 8 GB"Se ejecuta en llama.cpp estándar, el motor de código abierto muy utilizado, con soporte completo para descarga a GPU."