llama.cpp v1.0.0 dà stabilità al mondo in crescita dell'AI locale
Il popolare strumento open-source che permette a chiunque di eseguire modelli di AI sul proprio computer, senza inviare dati alle grandi aziende del cloud, ha raggiunto la versione 1.0, diventando più affidabile per gli sviluppatori che costruiscono app AI private.

Cosa puoi farci
- Uno sviluppatore che costruisce app AI private potrebbe fare affidamento su un'API C/C++ stabile che garantisce aggiornamenti major-version prima delle modifiche che comportano rotture della compatibilità, rendendo la propria integrazione affidabile nel lungo termine 1.
- Un ricercatore potrebbe eseguire oltre 150 architetture di modelli — inclusi modelli testuali, visivi e vocali — su laptop comuni o server high-end, senza inviare i dati ai provider del cloud 1.
- Un creatore di app potrebbe aggiungere generazione vocale al proprio software attraverso un endpoint audio compatibile con l'API di OpenAI, richiedendo output TTS tramite un'interfaccia familiare 2.
Una base solida per l'AI locale
Il team di llama.cpp ha dichiarato che il progetto è partito 3,5 anni fa ed è cresciuto fino a diventare qualcosa su cui molte altre applicazioni dipendono 1. Oggi hanno rilasciato le librerie llama.cpp v1.0.0 e ggml v1.0.0, segnando uno spostamento verso la stabilità a lungo termine 2.
Da questo momento in poi, qualsiasi cambiamento che rompe la compatibilità con le versioni precedenti richiederà un nuovo numero di major-version. "Avere un'API flessibile ma stabile è fondamentale", ha scritto il team in un post sul blog di Hugging Face, notando che ogni nuova integrazione significa più sviluppatori che contano sulle loro interfacce 1.
Il motore sottostante, chiamato ggml, è progettato per funzionare virtualmente su qualsiasi hardware — dai laptop ordinari ai server high-end — utilizzando moduli backend dedicati che possono essere compilati separatamente o caricati mentre il programma è in esecuzione 12.
Cosa porta llama.cpp all'AI locale
- AI nel cloudInvia i tuoi dati alle grandi aziende
- Oltre 150 tipi di modelliModelli di testo, visione e discorso
- Qualsiasi hardwareFunziona su laptop e server
- I tuoi dati restano privatiNon c'è bisogno di inviare le conversazioni altrove
Dalla storia: locale vs cloud, numero di modelli, gamma di hardware e vantaggio per la privacy
Nuovi modelli e funzionalità
Questa release aggiunge il supporto per diverse nuove architetture. Tre modelli testuali sono ora supportati: Kimi-K3.1-Pro, un modello denso da 65 miliardi di parametri chiamato Ripple-65B-Preview, e xing4_0 2. Le capacità visive e vocali sono state ampliate con MageVL-Cowork, visione Kimi-K3.1, e il sistema drama-3 text-to-speech . Nel complesso, llama.cpp ora supporta oltre 150 varianti di architetture di modelli 1.
I miglioramenti delle prestazioni includono cache FP8 key-value, che riducono l'uso di memoria durante l'inferenza, e un nuovo metodo per gestire i modelli Mixture of Experts che consente loro di condividere la memoria CPU quando necessario 2. L'aggiornamento aggiunge anche un endpoint audio compatibile OpenAI, permettendo ai programmi di richiedere la generazione vocale tramite un'interfaccia standard .
Anche la sicurezza è stata rafforzata. Il componente server integrato ha ricevuto hardening contro diversi attacchi web comuni, tra cui SSRF (dove un sito malintenzionato inganna un server facendolo contattare risorse interne), rebind DNS e questioni cross-origin 2.
Dall'annuncio ufficiale
Chi può usarlo
llama.cpp è distribuito tramite più canali per raggiungere utenti diversi. È disponibile come immagini Docker per Linux, pacchetti Debian, Homebrew e conda-forge per macOS e Linux, MacPorts per macOS, Winget per Windows, e XCFrameworks per iOS e macOS 1. Versioni pre-rilascio sono offerte anche per Android e iOS .
Il progetto dice che continua a contare su una community open-source di contributori e ha investito in infrastrutture di testing migliori, utilizzando hardware da aziende tra cui NVIDIA, AMD, Qualcomm, Arm, IBM e Intel 1. Le app Llama Desktop per macOS e Windows, distribuite dai team di llama.cpp e Hugging Face, sono inoltre menzionate come modo per gli utenti quotidiani di provare l'AI locale senza dover configurare autonomamente il codice .
Questa storia riporta una tendenza solo a scopo informativo. Non è consiglio o incoraggiamento a fare alcuna di queste cose.
Correzioni e aggiornamenti
- Corrected on 14 novembre 2026. Una versione precedente includeva un'immagine di un vecchio libro antico sotto una candela accesa; nessuna fonte menziona tale immagine, quindi la sostituzione rimuove contenuti non supportati.
I fatti principali
- llama.cpp v1.0.0 e ggml v1.0.0 sono stati rilasciati insieme, istituendo regole rigorose di versionamento semantico
- Qualsiasi modifica breaking-change alla public API richiederà ora un major-version bump
- Supporto aggiunto per Kimi-K3.1-Pro, Ripple-65B-Preview, xing4_0, drama-3 TTS e MageVL-Cowork vision
- Oltre 150 varianti di architetture di modelli sono ora supportate
- Distribuito tramite Docker, Homebrew, conda-forge, Winget, MacPorts, Debian e XCFrameworks
Termini da conoscere
Quantizzazione: comprimere un modello di AI per utilizzarlo con meno memoria e farlo girare più velocemente, a scapito di una certa accuratezza API (Application Programming Interface): un insieme di regole che permette a un pezzo di software di comunicare con un altro
Fonti
Se questa notizia riguarda te o la tua azienda, o usa qualcosa che ti appartiene, chiedi una correzione o la rimozione. Come funzionano le richieste
Continua a leggere
Nuovi modelliModello compresso da 27B batte versione completa nel tool calling in meno di 8 GBHerald of AI
Modello compresso da 27B batte versione completa nel tool calling in meno di 8 GB
Una versione pesantemente compressa di Qwen3.8-27B gira su hardware comune e supera l'originale nelle abilità di agente.
App e prodottiYogurt ti permette di registrare e riassumere le riunioni con un'AI che gira interamente sul tuo computerHerald of AI
Yogurt ti permette di registrare e riassumere le riunioni con un'AI che gira interamente sul tuo computer
Un'app open-source gratuita trasforma le tue chiamate in trascrizioni e riassunti senza inviare alcun dato al cloud.
CoreWeave punta tutto su Kubernetes open-source quando i lanci dei modelli di AI diventano più complessi
Stare ai server aziendali con i nuovi modelli di AI appena usciti è diventato sempre più difficile, e un fornitore di cloud in forte crescita scommette che risolvere questo problema sarà importante per tutti coloro che usano strumenti di AI.