IAGenerado
EN · IT · ES

El investigador del MIT quiere que la IA se explique sola en lugar de ocultar su funcionamiento

Jacob Andreas está entrenando a la IA para hablar sobre lo que ha aprendido, brindando a los usuarios habituales una forma de entender cómo toman decisiones estos sistemas, en vez de depender solo de complejas herramientas de depuración.

Jacob Andreas, en foto de 2026, lidera la investigación del MIT sobre cómo hacer que los sistemas de IA sean capaces de explicar su propio comportamiento con lenguaje claro.
Imagen: news.mit.edu
Cómo funciona

Un método de investigación que entrena modelos de IA para explicar sus propias decisiones en lenguaje claro, en vez de depender de mecanismos internos ocultos.

  1. Entrenarlo con una cantidad ingente de textos
  2. Pedirle que cuente qué aprendió
  3. Te responde de manera clara y sencilla
  4. Cualquiera puede leer la explicación sin usar herramientas complicadas

Hoy, si alguien quiere saber por qué una IA tomó cierta decisión, normalmente tiene que bucear en el funcionamiento interno del modelo usando herramientas de diagnóstico complicadas — un proceso que solo los especialistas pueden navegar 1. Andreas quiere darle la vuelta a esa idea: entrenar a los modelos para producir descripciones claras y precisas de lo que están haciendo, en un lenguaje que la gente ya entiende.

«En lugar de necesitar usar todas estas herramientas externas para tratar de entender lo que pasa bajo el capó, quizá podamos entrenar a los modelos para que hablen de sí mismos de manera precisa», dice Andreas, quien ocupa una plaza de cátedra en el Departamento de Ingeniería Eléctrica y Ciencias de la Computación del MIT y es miembro del Laboratorio de Ciencia de la Computación e Inteligencia Artificial (CSAIL) 1.

Por qué los modelos necesitan traductores

Andreas no ve esto simplemente como lograr que la IA suene más amigable. Su objetivo es más práctico: cuando decisiones de alto riesgo — diagnósticos médicos, aprobaciones financieras, fallos legales — dependen de la salida de un modelo, los expertos necesitan estar seguros de qué sabe el sistema y cómo se comportará en situaciones nuevas 1.

En el pasado, depurar una IA significaba examinar sus parámetros, que son los valores numéricos que el modelo aprende durante el entrenamiento, y comprobar si parecían razonables. Los modelos actuales son demasiado grandes y complejos para que eso funcione. «Antes depurábamos los sistemas simplemente mirando sus parámetros y decidiendo si tenían sentido o no. Ahora necesitamos herramientas de 'lectura de mentes' capaces de tomar esta computación neuronal muy complicada y traducirla para nosotros, porque simplemente no está en un lenguaje que los humanos sepamos hablar», explica 1.

Su enfoque se basa en los mismos tipos de ideas que alimentan a los actuales modelos de lenguaje de texto a texto: sistemas entrenados con enormes cantidades de escritura que pueden generar, resumir o responder preguntas en lenguaje natural. Al estudiar cómo las máquinas adquieren el lenguaje, el grupo de Andreas también espera hacer el entrenamiento de la IA más natural y eficiente — acercándose a la forma en que los humanos aprenden al interactuar con el mundo y recibir orientación.

De programar juegos a investigar el lenguaje

El camino de Andreas hacia esta pregunta es inusual. De niño, en la zona de la bahía de San Francisco, devoraba libros; uno que mostraba a un adolescente pirateando un sistema informático lo engancharon con la informática 1. Años más tarde, su padre trajo a casa un motor BASIC —una plataforma de programación primitiva— y Andreas comenzó a enseñarse solo a programar .

En la Universidad de Columbia, originalmente planeaba elegir entre la academia, la ingeniería de software o iniciar una empresa. Cuando sus amigos se apuntaron a proyectos de investigación, envió correos electrónicos a todos los profesores relacionados con la inteligencia artificial del departamento; los del procesamiento del lenguaje natural respondieron primero, orientándolo hacia ese campo 1. Trabajando en el laboratorio de Michael Collins, completó una tesis de pregrado sobre traducción automática, adaptando métodos estadísticos para representar significado a arquitecturas más recientes de IA .

«Siempre sentí que esas preguntas más profundas sobre cómo funciona el pensamiento o cómo modelar el mundo estaban más a la superficie en los problemas de procesamiento del lenguaje que en las otras tareas en las que estaba trabajando la gente de IA en aquel entonces», recuerda 1.

Tras pasar un año obteniendo una maestría en la Universidad de Cambridge, en Inglaterra, se unió al laboratorio de Dan Klein en la UC Berkeley para su doctorado — justo cuando el campo pasó de los enfoques estadísticos antiguos al aprendizaje profundo, que aprende patrones complejos automáticamente a partir de conjuntos masivos de datos 1. Luego colaboró en varios laboratorios de visión artificial para construir sistemas capaces de generar lenguaje mientras comprendían simultáneamente la entrada visual, creando algunas de las primeras herramientas combinadas de lenguaje y visión .

De un vistazo

Cómo entendemos las decisiones de la IA — ahora vs. lo que Andreas preconiza

HoySegún el plan de Andreas
Quien obtiene respuestasSolo especialistasTambién usuarios cotidianos
Herramienta necesariaComplicadas herramientas diagnósticasNinguna — la IA habla de sí misma
Lengua usadaParámetros y cálculos neuralesLenguaje llano, legible por humanos
Meta de la comprensiónDepurar examinando números ocultosConfianza, auditoría y mejora del sistema

Entrevista a Jacob Andreas y reportajes en el MIT CSAIL

Formar a los investigadores del futuro

Andreas obtuvo recientemente la tenencia en el MIT, donde sigue impulsando fundamentos técnicos más sólidos entre los estudiantes que entran al campo.

«Intento dejarles claro a los estudiantes que tener una base realmente profunda de cómo funciona toda esta tecnología bajo el capó es la única forma en que van a entenderla, y lo que los diferenciará en un mundo donde todos tienen acceso a un agente de programación», dice 1.

A medida que los sistemas de IA crecen más integrados en la vida diaria —desde teléfonos inteligentes hasta herramientas de trabajo— poder leer e interpretar lo que estos modelos están haciendo realmente puede volverse tan esencial como saber cómo usarlos desde el principio.

Este informe informa sobre una tendencia únicamente con fines informativos. No constituye consejo ni aliento para realizar ninguna de estas acciones.

Los datos clave

  • Jacob Andreas es profesor asociado del MIT especializado en cómo los modelos de IA pueden describir su propio entrenamiento en lenguaje humano
  • Su trabajo apunta a despliegues de IA de alto riesgo donde entender el comportamiento del modelo es crítico
  • Argumenta que la depuración actual requiere «herramientas de lectura de mentes» especializadas para computaciones neuronales opacas
  • Su investigación comenzó con la traducción automática en la Universidad de Columbia y evolucionó hacia sistemas combinados de lenguaje y visión en Berkeley
  • Andreas obtuvo recientemente la tenencia en el MIT y defiende un conocimiento fundacional profundo en la educación de IA

Fuentes

  1. Learning the language of machine learning

Si esta noticia te afecta a ti o a tu empresa, o usa algo que te pertenece, pide una corrección o que se retire. Cómo funcionan las solicitudes

Sigue leyendo