IAGenerado
EN · IT · ES

Un modelo grande de inteligencia artificial aprendió a reparar su propio cerebro sin necesidad de volver a entrenarse

Los investigadores descubrieron que un modelo de 27 mil millones de parámetros puede editar sus propios ajustes internos para volverse más preciso; no se necesita un maestro humano.

Markus Spiske 2017-02-14.
Foto de archivo · Foto: Markus Spiske markusspiske, CC0, via Wikimedia Commons

Qué podrías hacer con ello

  • Un investigador podría editar los propios ajustes internos de un modelo de 27 mil millones de parámetros para mejorar su precisión durante solo unas pocas horas en una única GPU, en lugar de ejecutar un costoso proceso completo de readiestramiento 1.
  • Un desarrollador podría tomar una copia corrupta o dañada de un modelo de lenguaje grande y pedirle que localice las partes rotas y las reescriba utilizando valores de sus propias regiones intactas 1.
  • Un equipo podría ejecutar sesiones repetidas de autocorrección donde cada ronda reemplace a la anterior, impulsando gradualmente la precisión de un modelo con el tiempo sin añadir costo por respuesta 1.

Cómo funciona la autoreescritura

Normalmente, mejorar un modelo de lenguaje implica someterlo a otra larga sesión de entrenamiento: alimentarlo con datos, calcular gradientes y ajustar miles de millones de pesos hasta que mejore 1. Esto es costoso y lento. Los investigadores plantearon una pregunta más sencilla: ¿puede un modelo observar sus propios errores y cambiar sus propios ajustes para hacerlo mejor?

Proporcionaron a un modelo de 27 mil millones de parámetros acceso a sus propios pesos, algunas respuestas calificadas erróneas y la capacidad de ejecutarse a sí mismo 1. El modelo diagnosticó dónde fallaba y editó los pesos detrás de esos fallos . Hizo todo esto por su cuenta, sin ninguna señal de entrenamiento externa .

Resultados: el modelo superó sus propios límites

En un conjunto fijo de 490 problemas que el modelo nunca había visto antes, la autoredacción lo hizo un 6,6 puntos más preciso 1. Otra sesión de edición produjo una mejora igualmente significativa . El modelo fue selectivo: solo presentó una edición cuando sus propias pruebas la respaldaban, cada una reemplazando a la anterior, y a lo largo de ocho sesiones consecutivas su precisión siguió aumentando .

A diferencia de los trucos de escalado durante el tiempo de prueba, donde el cómputo adicional te proporciona mejores respuestas pero desaparece después, estas ganancias se quedaron bloqueadas en los pesos del modelo y no costaron nada extra por respuesta 1. A diferencia del entrenamiento tradicional, no requirió infraestructura especial de preentrenamiento o postraenamiento: solo un modelo abierto y unas pocas horas en una única GPU .

Reparación de una copia dañada

Los investigadores fueron más allá. Corrompieron una copia del modelo y le pidieron que se reparara a sí misma 1. El modelo dañado localizó la matriz rota y la reescribió utilizando valores de sus propias partes intactas, sin leer nunca los pesos originales ilesos . Partiendo de problemas matemáticos solo de texto, la reparación elevó el rendimiento de la copia dañada en seis benchmarks de imagen que nunca había encontrado del 7 % al 70 % de precisión, alcanzando el 83 % de lo que podía lograr el modelo sin daño .

El tamaño importa: solo los más grandes podían hacerlo

La capacidad no apareció en todas las escalas. En cuatro tamaños de la misma familia de modelos, la versión de 2 mil millones de parámetros no realizó ninguna edición, las versiones de 4 y 9 mil millones se estropeaban aún más, y solo el modelo de 27 mil millones podía trabajar sobre sí mismo como lo haría un ser humano: comparando sus estados ocultos en respuestas que terminaron correctamente contra respuestas que se quedaron sin tokens, y luego debilitando la dirección que las separaba 1.

Este artículo informa sobre un hallazgo de investigación exclusivamente para información.

Los datos clave

  • Un modelo de 27 mil millones de parámetros reescribió sus propios pesos utilizando solo su propio razonamiento, sin gradientes ni entrenamiento
  • Las autoredacciones mejoraron la precisión en 6,6 puntos en 490 problemas no vistos y siguieron aumentando durante 8 sesiones
  • El modelo reparó una copia dañada del 7 % al 70 % de precisión en benchmarks de imagen que nunca había visto
  • Solo el modelo de 27 mil millones en la familia tuvo éxito; el de 2 mil millones no realizó ninguna edición y los modelos más pequeños se estropearon
  • Las mejoras persistieron en los pesos sin costo adicional por respuesta y sin necesidad de infraestructura especial

Fuentes

  1. Language Models Can Rewrite Their Own Weights

Si esta noticia te afecta a ti o a tu empresa, o usa algo que te pertenece, pide una corrección o que se retire. Cómo funcionan las solicitudes

Sigue leyendo