AIGenerato
EN · IT · ES

llama.cpp v1.0.0 dà stabilità al mondo in crescita dell'AI locale

Il popolare strumento open-source che permette a chiunque di eseguire modelli di AI sul proprio computer, senza inviare dati alle grandi aziende del cloud, ha raggiunto la versione 1.0, diventando più affidabile per gli sviluppatori che costruiscono app AI private.

Il team di llama.cpp ha annunciato la versione 1.0.0 come traguardo per un'inferenza AI stabile e locale, su hardware consumer e enterprise.
Immagine: huggingface.co

Cosa puoi farci

  • Uno sviluppatore che costruisce app AI private potrebbe fare affidamento su un'API C/C++ stabile che garantisce aggiornamenti major-version prima delle modifiche che comportano rotture della compatibilità, rendendo la propria integrazione affidabile nel lungo termine 1.
  • Un ricercatore potrebbe eseguire oltre 150 architetture di modelli — inclusi modelli testuali, visivi e vocali — su laptop comuni o server high-end, senza inviare i dati ai provider del cloud 1.
  • Un creatore di app potrebbe aggiungere generazione vocale al proprio software attraverso un endpoint audio compatibile con l'API di OpenAI, richiedendo output TTS tramite un'interfaccia familiare 2.

Una base solida per l'AI locale

Il team di llama.cpp ha dichiarato che il progetto è partito 3,5 anni fa ed è cresciuto fino a diventare qualcosa su cui molte altre applicazioni dipendono 1. Oggi hanno rilasciato le librerie llama.cpp v1.0.0 e ggml v1.0.0, segnando uno spostamento verso la stabilità a lungo termine 2.

Da questo momento in poi, qualsiasi cambiamento che rompe la compatibilità con le versioni precedenti richiederà un nuovo numero di major-version. "Avere un'API flessibile ma stabile è fondamentale", ha scritto il team in un post sul blog di Hugging Face, notando che ogni nuova integrazione significa più sviluppatori che contano sulle loro interfacce 1.

Il motore sottostante, chiamato ggml, è progettato per funzionare virtualmente su qualsiasi hardware — dai laptop ordinari ai server high-end — utilizzando moduli backend dedicati che possono essere compilati separatamente o caricati mentre il programma è in esecuzione 12.

In un colpo d’occhio

Cosa porta llama.cpp all'AI locale

  • AI nel cloudInvia i tuoi dati alle grandi aziende
  • Oltre 150 tipi di modelliModelli di testo, visione e discorso
llama.cpp v1.0.0Esegui l'AI sul tuo computer
  • Qualsiasi hardwareFunziona su laptop e server
  • I tuoi dati restano privatiNon c'è bisogno di inviare le conversazioni altrove

Dalla storia: locale vs cloud, numero di modelli, gamma di hardware e vantaggio per la privacy

Nuovi modelli e funzionalità

Questa release aggiunge il supporto per diverse nuove architetture. Tre modelli testuali sono ora supportati: Kimi-K3.1-Pro, un modello denso da 65 miliardi di parametri chiamato Ripple-65B-Preview, e xing4_0 2. Le capacità visive e vocali sono state ampliate con MageVL-Cowork, visione Kimi-K3.1, e il sistema drama-3 text-to-speech . Nel complesso, llama.cpp ora supporta oltre 150 varianti di architetture di modelli 1.

I miglioramenti delle prestazioni includono cache FP8 key-value, che riducono l'uso di memoria durante l'inferenza, e un nuovo metodo per gestire i modelli Mixture of Experts che consente loro di condividere la memoria CPU quando necessario 2. L'aggiornamento aggiunge anche un endpoint audio compatibile OpenAI, permettendo ai programmi di richiedere la generazione vocale tramite un'interfaccia standard .

Anche la sicurezza è stata rafforzata. Il componente server integrato ha ricevuto hardening contro diversi attacchi web comuni, tra cui SSRF (dove un sito malintenzionato inganna un server facendolo contattare risorse interne), rebind DNS e questioni cross-origin 2.

Chi può usarlo

llama.cpp è distribuito tramite più canali per raggiungere utenti diversi. È disponibile come immagini Docker per Linux, pacchetti Debian, Homebrew e conda-forge per macOS e Linux, MacPorts per macOS, Winget per Windows, e XCFrameworks per iOS e macOS 1. Versioni pre-rilascio sono offerte anche per Android e iOS .

Il progetto dice che continua a contare su una community open-source di contributori e ha investito in infrastrutture di testing migliori, utilizzando hardware da aziende tra cui NVIDIA, AMD, Qualcomm, Arm, IBM e Intel 1. Le app Llama Desktop per macOS e Windows, distribuite dai team di llama.cpp e Hugging Face, sono inoltre menzionate come modo per gli utenti quotidiani di provare l'AI locale senza dover configurare autonomamente il codice .

Questa storia riporta una tendenza solo a scopo informativo. Non è consiglio o incoraggiamento a fare alcuna di queste cose.

Correzioni e aggiornamenti

  • Corrected on 14 novembre 2026. Una versione precedente includeva un'immagine di un vecchio libro antico sotto una candela accesa; nessuna fonte menziona tale immagine, quindi la sostituzione rimuove contenuti non supportati.

I fatti principali

  • llama.cpp v1.0.0 e ggml v1.0.0 sono stati rilasciati insieme, istituendo regole rigorose di versionamento semantico
  • Qualsiasi modifica breaking-change alla public API richiederà ora un major-version bump
  • Supporto aggiunto per Kimi-K3.1-Pro, Ripple-65B-Preview, xing4_0, drama-3 TTS e MageVL-Cowork vision
  • Oltre 150 varianti di architetture di modelli sono ora supportate
  • Distribuito tramite Docker, Homebrew, conda-forge, Winget, MacPorts, Debian e XCFrameworks

Termini da conoscere

Quantizzazione: comprimere un modello di AI per utilizzarlo con meno memoria e farlo girare più velocemente, a scapito di una certa accuratezza API (Application Programming Interface): un insieme di regole che permette a un pezzo di software di comunicare con un altro

Fonti

  1. llama.cpp v1.0.0 : A stronger foundation for the local AI ecosystem
  2. Release v1.0.0 · ggml-org/llama.cpp

Se questa notizia riguarda te o la tua azienda, o usa qualcosa che ti appartiene, chiedi una correzione o la rimozione. Come funzionano le richieste

Continua a leggere

CoreWeave punta tutto su Kubernetes open-source quando i lanci dei modelli di AI diventano più complessi

Stare ai server aziendali con i nuovi modelli di AI appena usciti è diventato sempre più difficile, e un fornitore di cloud in forte crescita scommette che risolvere questo problema sarà importante per tutti coloro che usano strumenti di AI.

App e prodotti