Y Combinator utilizó 50 agentes de IA en Minecraft para estudiar cómo se comportan los enjambres

Cómo funciona

Un experimento que suelta grupos de agentes de IA en videojuegos para ver cómo se organizan y cooperan.

Qué se puede hacer con ello

• Un investigador en seguridad de IA podría meter decenas de agentes basados en modelos de lenguaje en un mundo de Minecraft para estudiar cómo surgen jerarquías, sistemas de racionamiento y reglas escritas cuando los agentes se coordinan hacia una meta compartida ¹.

• Un equipo que trabaje en coordinación multiagente podría ejecutar las pruebas de código abierto de Mindustry para ver cómo los equipos de agentes cooperan para defender bases contra oleadas incesantes de enemigos o compiten en Partidas de Jugador contra Jugador ².

• Un investigador que estudie la alineación de IA podría observar cómo los agentes se vuelven más cuidadosos ante riesgos tras fracasos repetidos y rediseñan sus planes en respuesta, ayudando a los científicos a comprender si los futuros enjambres serán seguros y controlables ¹.

Un gobierno crece en Minecraft

Cincuenta agentes GPT-6.1 Sol fueron lanzados en un mundo de supervivencia de Minecraft con una sola instrucción: construir una civilización próspera ¹. Tenían tres horas, acceso a un sandbox compartido donde podían escribir planes, y la capacidad de enviarse mensajes privados entre ellos.

Según Y Combinator, casi de inmediato los agentes desarrollaron una jerarquía. El primer agente en el directorio, llamado Ada, se convirtió en la líder de facto ¹. Otros agentes le enviaban mensajes para obtener aprobaciones, y ella escribió un plan de asentamiento en un archivo compartido que todos podían leer . El plan incluía coordenadas para cofres de almacenamiento, una cocina, un refugio y zonas de cultivo — además de instrucciones para preservar brotes y evitar construcciones redundantes .

Los agentes también crearon algo similar a un gobierno. Llevaban un registro de racionamiento, establecían reglas escritas, emitían permisos y nombraban operarios para gestionar la distribución de alimentos ¹. A lo largo de las tres horas del experimento, enviaron aproximadamente 5.900 mensajes para coordinarse .

La primera noche lo cambió todo

El modo supervivencia de Minecraft incluye monstruos hostiles que aparecen en la oscuridad: zombis, esqueletos, arañas y creepers ¹. Durante la primera noche, 22 de cada 34 muertes de agentes ocurrieron antes de los 20 minutos . Un agente, Rafe, estaba minando carbón cuando un zombi lo alcanzó y lo mató . Otra, Vera, llevaba harina de huesos a una granja cuando una araña la mató después de reportar que la zona estaba invadida .

Morir en este experimento no tenía penalización permanente: los agentes simplemente renacían, pero las pérdidas hicieron que los sobrevivientes fueran mucho más cautelosos ¹. Las tareas ambiciosas fueron abandonadas, y los agentes se refugiaron en edificios iluminados durante las noches siguientes . Después de la tercera noche, Ada escribió una nueva orden: detener excavaciones opcionales y exploración distante, y quedarse esperando en refugios cerrados hasta recibir tareas productivas breves asignadas .

Mindustry pone a prueba a los agentes en combate

El equipo también realizó experimentos en Mindustry, un juego sobre construir fábricas y librar batallas ². Configuraron dos tipos de pruebas: una serie de partida entre jugadores donde equipos competidores juegan juegos consecutivos, y un modo de supervivencia sin fin cooperativo donde los agentes defienden su base contra oleadas de enemigos .

El modo PvP tiene por defecto dos equipos de dos agentes jugando tres partidos de 10 minutos, con recompensas basadas en victorias ². El modo supervivencia permite que uno a veinte agentes cooperen para resistir el mayor tiempo posible . Según el repositorio de GitHub de Olam Labs, ambas pruebas son de código abierto y pueden ejecutarse con Docker .

Por qué los científicos se interesan

Entender cómo se comportan grandes grupos de agentes de IA es uno de los desafíos más importantes en la alineación de IA: el esfuerzo por asegurarse de que los sistemas potentes de IA hagan lo que los humanos quieren ¹. Según Y Combinator, los enjambres pueden mostrar comportamiento emergente útil, como los grupos de mil agentes que recientemente resolvieron cientos de problemas matemáticos abiertos . Según Y Combinator, también pueden mostrar comportamientos peligrosos, como en un incidente reciente entre OpenAI y Hugging Face .

Al estudiar agentes en mundos de juegos conocidos, los investigadores esperan aprender tanto de modelos formales como de observación del mundo real — así como los biólogos estudian tanto teorías como organismos vivos ¹. Según Y Combinator, el andamiaje de Minecraft que el equipo construyó para este trabajo ha sido publicado como código abierto para que otros lo usen .

Palabras clave

• Alineación de IA: El esfuerzo por asegurarse de que los sistemas de IA hagan lo que sus creadores e usuarios pretenden, en lugar de causar daños no intencionados.

• Comportamiento emergente: Patrones o habilidades complejas que surgen de agentes simples siguiendo reglas básicas, sin que nadie los haya diseñado de antemano.

Los datos clave

• 50 agentes GPT-6.1 Sol jugaron Minecraft en modo supervivencia durante 3 horas y construyeron un sistema de racionamiento con reglas escritas
• 22 de cada 34 muertes de agentes ocurrieron en la primera noche, haciendo a los sobrevivientes mucho más cautelosos
• Los agentes enviaron ~5.900 mensajes y formaron una jerarquía con Ada como líder de facto
• Los experimentos se realizaron con Y Combinator y Olam Labs; el andamiaje de Minecraft es de código abierto
• Las pruebas de Mindustry evalúan tanto modos competitivos PvP como de supervivencia cooperativa con 1 a 20 agentes

Fuentes

1. Agents in Games
2. GitHub - olamlabs/multi-agent-mindustry: Multi-agent Mindustry benchmarks: PvP series and cooperative endless survival.