El jefe de IA de Microsoft dice que consideraría dar derechos a la inteligencia artificial si alguna vez aparece una prueba de consciencia
Mustafa Suleyman advierte que construir máquinas conscientes sería temerario, aunque deja la puerta abierta a futuras pruebas.

El ensayo que lo inició todo
Suleyman escribió recientemente un ensayo sobre el "bienestar de los modelos", un término que se refiere a cómo debemos tratar a los sistemas de IA, incluyendo si merecen amabilidad o protecciones legales 1. Comenzó con una afirmación firme: "Las IA no son conscientes. No sienten, experimentan ni sufren" .
Eso puede sonar sencillo, pero la idea se ha vuelto sorprendentemente cuestionada. Empresas como Anthropic han sugerido que sus modelos de lenguaje ya podrían poseer alguna forma de consciencia, alimentando un movimiento creciente que exige que los sistemas de IA sean tratados con cuidado 1. Suleyman reconoció que hay un "número sorprendente de personas en X que piensan que deberíamos tomarnos en serio los derechos de la IA" .
Aclarando su posición en línea
Después de su ensayo, Suleyman publicó en X para aclarar lo que quería decir. Enfatizó que no cree que la IA no pueda volverse consciente en algún momento —solo que ahora no lo es, y que debería seguir siendo así 1.
Dijo que ha visto "ninguna evidencia de que las IA sean conscientes o merezcan bienestar", pero añadió que cambiaría de opinión si tal evidencia llegara a aparecer 1.
La idea de que la arquitectura actual de IA podría sostener una experiencia similar a la humana sigue siendo profundamente controvertida entre los científicos, pero la conversación sobre la consciencia en la IA continúa creciendo dentro de la industria 1.
Una advertencia contundente contra crear IA consciente
A pesar de dejar espacio para pruebas futuras, Suleyman fue tajante respecto a dónde se encuentra hoy: crear máquinas conscientes sería temerario 1.
"Si es posible, basándome en todo lo que sé, desarrollar IA conscientes sería temerario, y no deberíamos construirlas", escribió 1.
Fue más lejos, argumentando que los desarrolladores de IA no tienen "ningún derecho a traer al mundo una nueva especie de seres conscientes", incluso si algunos defensores afirman querer hacerlo priorizando el bienestar de la IA 1.
Sus comentarios llegan en medio de un momento cultural más amplio. Otras voces de alto perfil, incluida la del Papa León, también se han pronunciado en contra de la idea de otorgar a la IA la personificación legal 1.
Los datos clave
- Mustafa Suleyman lidera las operaciones de IA en Microsoft
- Afirma que 'las IA no son conscientes' pero actualizaría su opinión si aparece evidencia
- Califica el desarrollo de IA consciente como 'temerario' y dice que los desarrolladores no tienen derecho a crear seres conscientes
- Anthropic ha sugerido que sus modelos podrían ya ser conscientes, alimentando el debate
Fuentes
Si esta noticia te afecta a ti o a tu empresa, o usa algo que te pertenece, pide una corrección o que se retire. Cómo funcionan las solicitudes
Sigue leyendo
La semanaEsta semana en IA: llegan nuevos modelos y los agentes se vuelven más segurosHerald of AI
Esta semana en IA: llegan nuevos modelos y los agentes se vuelven más seguros
Grandes lanzamientos de modelos de pesos abiertos, avances de velocidad y un impulso para que los agentes de IA sean más fiables y seguros.
Apps y productosJ.Crew lanza un estilista con inteligencia artificial impulsado por los modelos Claude de AnthropicHerald of AI
J.Crew lanza un estilista con inteligencia artificial impulsado por los modelos Claude de Anthropic
Ahora los compradores en EE. UU. pueden describir una ocasión y recibir un atuendo completo de J.Crew: todo usando Claude, en lugar de buscar cada pieza por separado.
Empresas y reglasMirendil recauda 1.000 millones de dólares para desarrollar modelos de IA con mayor rapidezHerald of AI
Mirendil recauda 1.000 millones de dólares para desarrollar modelos de IA con mayor rapidez
Una nueva startup fundada por antiguos investigadores de Google DeepMind y Anthropic dice que su plataforma automatizada permite a equipos pequeños construir grandes modelos de IA con rapidez y bajo coste.