NVIDIA apre il codice sorgente di Run:ai per la gestione GPU di Kubernetes

NVIDIA rilascia Run:ai

NVIDIA ha rilasciato la sua piattaforma Run:ai come software open source con licenza Apache 2.0. L'annuncio è arrivato nell'ottobre 2026 e rende lo strumento di orchestrazione GPU dell'azienda disponibile a chiunque voglia utilizzarlo.¹

Run:ai era originariamente venduto come prodotto enterprise che aiuta le organizzazioni a gestire le unità di elaborazione grafica (GPU) attraverso cluster Kubernetes. La gestione delle GPU è critica per i carichi di lavoro AI, poiché l'addestramento di modelli di grandi dimensioni e l'esecuzione di inferenza richiedono un'attenta pianificazione delle risorse hardware costose.

Cosa include il rilascio

La versione open source include diversi componenti chiave. Il KAI Scheduler gestisce come le attività GPU vengono assegnate ai nodi in un cluster. Il rilascio include anche il GPU fractioning di CUDA 13.4, che consente di dividere una singola GPU fisica in pezzi più piccoli in modo che più attività possano condividerla.¹

Sono inclusi anche strumenti di gestione delle quote. Questi permettono agli amministratori di impostare limiti su quanto capacità GPU possono utilizzare diversi team o progetti. Un ambiente di sviluppo locale basato su Kind, uno strumento per eseguire Kubernetes localmente, è anch'esso parte del pacchetto.

Perché è importante

Rendere Run:ai open source abbassa la barriera per squadre più piccole e sviluppatori singoli che vogliono eseguire modelli AI in modo efficiente. Precedentemente, le organizzazioni dovevano acquistare licenze enterprise per accedere a queste funzionalità di orchestrazione. Ora possono configurare lo stesso tipo di gestione GPU sulla propria infrastruttura.

La licenza Apache 2.0 è permissiva, il che significa che le aziende possono utilizzare, modificare e distribuire il software senza requisiti stretti come quelli trovati nelle licenze copyleft. Questo dovrebbe incoraggiare l'adozione sia in contesti commerciali che di ricerca.

Il quadro generale

L'orchestrazione GPU su Kubernetes è diventata sempre più importante man mano che le applicazioni AI crescono in termini di richiesta. I modelli linguistici di grandi dimensioni e i sistemi di AI generativa richiedono una potenza di calcolo significativa, e gestire tale potenza attraverso un cluster è complesso. Strumenti come Run:ai affrontano questa complessità fornendo funzionalità di pianificazione, allocazione delle risorse e monitoraggio.

Rendendo open source Run:ai, NVIDIA sta rendendo disponibile il suo software di infrastruttura alla comunità più ampia. Questo potrebbe accelerare lo sviluppo di applicazioni AI dando a più persone accesso a strumenti di gestione GPU di livello professionale.

Il rilascio arriva in un momento in cui la domanda di calcolo GPU continua a crescere. Aziende e laboratori di ricerca stanno investendo pesantemente nell'infrastruttura AI, e una gestione efficiente delle risorse è essenziale per tenere bassi i costi massimizzando il throughput.¹

I fatti principali

• Run:ai rilasciato con licenza open source Apache 2.0
• Include KAI Scheduler per l'assegnazione delle attività GPU
• CUDA 13.4 abilita il GPU fractioning per l'uso condiviso
• Gestione quote e ambiente di sviluppo Kind inclusi
• Mirato a cluster Kubernetes che eseguono carichi di lavoro AI

Fonti

1. NVIDIA Open Sources Run:ai Under Apache 2.0 for Kubernetes GPU Orchestration — marktechpost.com