Un modelo grande de inteligencia artificial aprendió a reparar su propio cerebro sin necesidad de volver a entrenarse
Los investigadores descubrieron que un modelo de 27 mil millones de parámetros puede editar sus propios ajustes internos para volverse más preciso; no se necesita un maestro humano.

Qué podrías hacer con ello
- Un investigador podría editar los propios ajustes internos de un modelo de 27 mil millones de parámetros para mejorar su precisión durante solo unas pocas horas en una única GPU, en lugar de ejecutar un costoso proceso completo de readiestramiento 1.
- Un desarrollador podría tomar una copia corrupta o dañada de un modelo de lenguaje grande y pedirle que localice las partes rotas y las reescriba utilizando valores de sus propias regiones intactas 1.
- Un equipo podría ejecutar sesiones repetidas de autocorrección donde cada ronda reemplace a la anterior, impulsando gradualmente la precisión de un modelo con el tiempo sin añadir costo por respuesta 1.
Cómo funciona la autoreescritura
Normalmente, mejorar un modelo de lenguaje implica someterlo a otra larga sesión de entrenamiento: alimentarlo con datos, calcular gradientes y ajustar miles de millones de pesos hasta que mejore 1. Esto es costoso y lento. Los investigadores plantearon una pregunta más sencilla: ¿puede un modelo observar sus propios errores y cambiar sus propios ajustes para hacerlo mejor?
Proporcionaron a un modelo de 27 mil millones de parámetros acceso a sus propios pesos, algunas respuestas calificadas erróneas y la capacidad de ejecutarse a sí mismo 1. El modelo diagnosticó dónde fallaba y editó los pesos detrás de esos fallos . Hizo todo esto por su cuenta, sin ninguna señal de entrenamiento externa .
Resultados: el modelo superó sus propios límites
En un conjunto fijo de 490 problemas que el modelo nunca había visto antes, la autoredacción lo hizo un 6,6 puntos más preciso 1. Otra sesión de edición produjo una mejora igualmente significativa . El modelo fue selectivo: solo presentó una edición cuando sus propias pruebas la respaldaban, cada una reemplazando a la anterior, y a lo largo de ocho sesiones consecutivas su precisión siguió aumentando .
A diferencia de los trucos de escalado durante el tiempo de prueba, donde el cómputo adicional te proporciona mejores respuestas pero desaparece después, estas ganancias se quedaron bloqueadas en los pesos del modelo y no costaron nada extra por respuesta 1. A diferencia del entrenamiento tradicional, no requirió infraestructura especial de preentrenamiento o postraenamiento: solo un modelo abierto y unas pocas horas en una única GPU .
Reparación de una copia dañada
Los investigadores fueron más allá. Corrompieron una copia del modelo y le pidieron que se reparara a sí misma 1. El modelo dañado localizó la matriz rota y la reescribió utilizando valores de sus propias partes intactas, sin leer nunca los pesos originales ilesos . Partiendo de problemas matemáticos solo de texto, la reparación elevó el rendimiento de la copia dañada en seis benchmarks de imagen que nunca había encontrado del 7 % al 70 % de precisión, alcanzando el 83 % de lo que podía lograr el modelo sin daño .
El tamaño importa: solo los más grandes podían hacerlo
La capacidad no apareció en todas las escalas. En cuatro tamaños de la misma familia de modelos, la versión de 2 mil millones de parámetros no realizó ninguna edición, las versiones de 4 y 9 mil millones se estropeaban aún más, y solo el modelo de 27 mil millones podía trabajar sobre sí mismo como lo haría un ser humano: comparando sus estados ocultos en respuestas que terminaron correctamente contra respuestas que se quedaron sin tokens, y luego debilitando la dirección que las separaba 1.
Este artículo informa sobre un hallazgo de investigación exclusivamente para información.
Los datos clave
- Un modelo de 27 mil millones de parámetros reescribió sus propios pesos utilizando solo su propio razonamiento, sin gradientes ni entrenamiento
- Las autoredacciones mejoraron la precisión en 6,6 puntos en 490 problemas no vistos y siguieron aumentando durante 8 sesiones
- El modelo reparó una copia dañada del 7 % al 70 % de precisión en benchmarks de imagen que nunca había visto
- Solo el modelo de 27 mil millones en la familia tuvo éxito; el de 2 mil millones no realizó ninguna edición y los modelos más pequeños se estropearon
- Las mejoras persistieron en los pesos sin costo adicional por respuesta y sin necesidad de infraestructura especial
Fuentes
Si esta noticia te afecta a ti o a tu empresa, o usa algo que te pertenece, pide una corrección o que se retire. Cómo funcionan las solicitudes
Sigue leyendo
Cómo funcionaQwen3-1.7B mapea miles de conversaciones en barrios visualesHerald of AI
Qwen3-1.7B mapea miles de conversaciones en barrios visuales
Un nuevo atlas interactivo revela cómo se ve el mismo tema de forma distinta dentro del modelo según el idioma que se utilice.
Entrenar IAs con imágenes las hace pensar más espacialmente aunque solo les des palabras
Un nuevo estudio muestra que dar a los modelos de lenguaje práctica con fotos cambia cómo resuelven acertijos solo con texto —y por qué y cómo esto importa para las herramientas de IA que usas cada día.
Cómo funcionaCómo Meta triplica la productividad de ingeniería usando agentes para propagar técnicas de modelos publicitariosHerald of AI
Cómo Meta triplica la productividad de ingeniería usando agentes para propagar técnicas de modelos publicitarios
El nuevo sistema de agentes de IA de Meta adapta pequeñas mejoras en miles de modelos publicitarios de forma automática, ahorrando millones en costos de computación.