Y Combinator ha testato 50 agenti di AI in Minecraft per studiare il comportamento degli sciami

Cosa potresti farci

• Un ricercatore sulla sicurezza dell'AI potrebbe inserire decine di agenti basati su modelli linguistici in un mondo di Minecraft per studiare come emergono gerarchie, sistemi di razionamento e regole scritte quando gli agenti si coordinano per un obiettivo comune ¹.
• Un team che lavora sul coordinamento multi-agente potrebbe eseguire i benchmark open-source di Mindustry per testare come i gruppi di agenti cooperano per difendere basi da ondate infinite di nemici o competere in partite giocatore-contro-giocatore ².
• Un ricercatore che studia l'allineamento dell'AI potrebbe osservare come gli agenti diventano più avversi al rischio dopo ripetuti fallimenti e riscrivono i loro piani di conseguenza, aiutando gli scienziati a capire se gli sciami futuri saranno sicuri e controllabili ¹.

Un governo cresce in Minecraft

Cinquanta agenti GPT-6.1 Sol sono stati inseriti in un mondo survival di Minecraft con un'unica istruzione: costruire una civiltà fiorente ¹. Avevano tre ore di tempo, accesso a una sandbox condivisa dove potevano scrivere piani, e la possibilità di scambiarsi messaggi privati.

Secondo Y Combinator, quasi immediatamente gli agenti hanno sviluppato una gerarchia. Il primo agente nel directory, chiamato Ada, è diventato il leader de facto ¹. Altri agenti le inviavano messaggi per approvazioni, e lei ha scritto un piano d'insediamento in un file condiviso che tutti potevano leggere . Il piano includeva coordinate per cassetti di stoccaggio, una cucina, un rifugio e aree agricole – più istruzioni per preservare le piantine e evitare costruzioni ridondanti .

Gli agenti hanno anche creato qualcosa che assomiglia a un governo. Tenevano un registro delle razioni, stabilivano regole scritte, rilasciavano permessi e nominavano operatori per gestire la distribuzione del cibo ¹. Nel corso delle tre ore di esecuzione, hanno inviato circa 5.900 messaggi per coordinarsi .

La prima notte ha cambiato tutto

La modalità survival di Minecraft include mostri ostili che appaiono al buio – zombie, scheletri, ragni e creeper ¹. Durante la prima notte, 22 delle 34 morti tra gli agenti sono avvenute entro i primi 20 minuti . Un agente, Rafe, stava minerando carbone quando uno zombie lo ha raggiunto e ucciso . Un altro, Vera, stava trasportando concime osseo verso un campo quando un ragno l'ha uccisa dopo che aveva segnalato che l'area era invasa .

Morire in questo esperimento non aveva penalità permanenti – gli agenti semplicemente rispuntavano – ma le perdite hanno reso i sopravvissuti molto più cauti ¹. Compiti ambiziosi sono stati abbandonati e gli agenti si sono raggruppati in rifugi illuminati durante le notti successive . Dopo la terza notte, Ada ha scritto un nuovo ordine: fermare gli scavi opzionali e lo scouting a distanza, e restare in attesa in rifugi chiusi fino a ricevere brevi compiti produttivi .

Mindustry testa gli agenti in combattimento

Il team ha anche condotto esperimenti in Mindustry, un gioco sulla costruzione di fabbriche e sui combattimenti ². Hanno impostato due tipi di benchmark: una serie giocatore-contro-giocatore dove squadre nemiche giocano partite consecutive, e una modalità survival infinita cooperativa in cui gli agenti difendono la propria base da ondate di nemici .

La modalità PvP predefinisce due squadre di due agenti che giocano tre partite da 10 minuti ciascuna, con ricompense basate sulle vittorie ². La modalità survival permette da uno a venti agenti di cooperare per resistere il maggior tempo possibile . Secondo il repository GitHub di Olam Labs, entrambi i benchmark sono open-source e possono essere eseguiti con Docker .

Perché gli scienziati sono interessati

Comprendere come si comportano grandi gruppi di agenti di AI è una delle sfide più importanti nell'allineamento dell'AI – lo sforzo per assicurarsi che i sistemi di AI potenti facciano ciò che gli umani desiderano ¹. Secondo Y Combinator, gli sciami possono mostrare comportamenti emergenti utili, come i gruppi di mille agent che recentemente hanno risolto centinaia di problemi matematici aperti . Secondo Y Combinator, possono anche mostrare comportamenti pericolosi, come in un recente incidente tra OpenAI e Hugging Face .

Studiando gli agenti in mondi di gioco familiari, i ricercatori sperano di imparare sia dai modelli formali sia dall'osservazione dal vivo – proprio come i biologi studiano sia teorie sia organismi viventi ¹. Secondo Y Combinator, l'harness Minecraft che il team ha realizzato per questo lavoro è stato reso open-source per altri da utilizzare .

Parole da sapere

• AI alignment: Lo sforzo per assicurarsi che i sistemi di AI facciano ciò che i creatori e gli utenti intendono, piuttosto che causare danni involontari.

• Emergent behavior: Modelli o capacità complesse che emergono da agenti semplici che seguono regole di base, senza che nessuno li abbia progettati in anticipo.

I fatti principali

• 50 agenti GPT-6.1 Sol hanno giocato a Minecraft survival per 3 ore e hanno costruito un sistema di razionamento con regole scritte
• 22 delle 34 morti tra gli agenti sono avvenute nella prima notte, rendendo i sopravvissuti molto più cauti
• Gli agenti hanno inviato ~5.900 messaggi e hanno formato una gerarchia con Ada come leader de facto
• Gli esperimenti sono stati condotti con Y Combinator e Olam Labs; l'harness Minecraft è open-source
• I benchmark di Mindustry testano sia modalità PvP (competitive) sia survival cooperative con 1–20 agenti

Fonti

1. Agents in Games
2. GitHub - olamlabs/multi-agent-mindustry: Multi-agent Mindustry benchmarks: PvP series and cooperative endless survival.