Tecnologie
llama.cpp
0 storie.
Ogni storia su llama.cpp (0)
Nessuna storia riguarda ancora llama.cpp: quelle che seguono lo menzionano solo.
Menzionato anche in (4)
Storie su qualcos'altro che cita llama.cpp, con la frase corrispondente.
- Nace AI lancia Drex Max v1, un modello decisionale da 27B che gira sul tuo Mac"Nace ha pubblicato i pesi bf16, un checkpoint Q80 GGUF, un checkpoint affine Q4 e fork modificati sia di llama.cpp che di Ollama, così che gli utenti possano servire il modello tramite una comune API POST /v1/systemone."
- Recursive lancia Flint, un modello di codifica locale da 40B con pesi aperti per agenti"Flint è anche compatibile con popolari strumenti locali per modelli come Llama.cpp, Ollama, Unsloth, LM Studio, vLLM e SGLang."
- Liquid AI rilascia modello open-weight progettato per agenti rapidi su dispositivo"Il modello è dotato di supporto immediato per popolari strumenti di inferenza open-source, tra cui llama.cpp, MLX, vLLM, SGLang e ONNX."
- Il modello compresso da 27B supera la versione completa nel tool calling con meno di 8 GB"Funziona con llama.cpp stock, il runtime open-source ampiamente utilizzato, con supporto completo per il GPU offload."