El jefe de IA de Microsoft dice que consideraría dar derechos a la inteligencia artificial si alguna vez aparece una prueba de consciencia

El ensayo que lo inició todo

Suleyman escribió recientemente un ensayo sobre el "bienestar de los modelos", un término que se refiere a cómo debemos tratar a los sistemas de IA, incluyendo si merecen amabilidad o protecciones legales ¹. Comenzó con una afirmación firme: "Las IA no son conscientes. No sienten, experimentan ni sufren" .

Eso puede sonar sencillo, pero la idea se ha vuelto sorprendentemente cuestionada. Empresas como Anthropic han sugerido que sus modelos de lenguaje ya podrían poseer alguna forma de consciencia, alimentando un movimiento creciente que exige que los sistemas de IA sean tratados con cuidado ¹. Suleyman reconoció que hay un "número sorprendente de personas en X que piensan que deberíamos tomarnos en serio los derechos de la IA" .

Aclarando su posición en línea

Después de su ensayo, Suleyman publicó en X para aclarar lo que quería decir. Enfatizó que no cree que la IA no pueda volverse consciente en algún momento —solo que ahora no lo es, y que debería seguir siendo así ¹.

Dijo que ha visto "ninguna evidencia de que las IA sean conscientes o merezcan bienestar", pero añadió que cambiaría de opinión si tal evidencia llegara a aparecer ¹.

La idea de que la arquitectura actual de IA podría sostener una experiencia similar a la humana sigue siendo profundamente controvertida entre los científicos, pero la conversación sobre la consciencia en la IA continúa creciendo dentro de la industria ¹.

Una advertencia contundente contra crear IA consciente

A pesar de dejar espacio para pruebas futuras, Suleyman fue tajante respecto a dónde se encuentra hoy: crear máquinas conscientes sería temerario ¹.

"Si es posible, basándome en todo lo que sé, desarrollar IA conscientes sería temerario, y no deberíamos construirlas", escribió ¹.

Fue más lejos, argumentando que los desarrolladores de IA no tienen "ningún derecho a traer al mundo una nueva especie de seres conscientes", incluso si algunos defensores afirman querer hacerlo priorizando el bienestar de la IA ¹.

Sus comentarios llegan en medio de un momento cultural más amplio. Otras voces de alto perfil, incluida la del Papa León, también se han pronunciado en contra de la idea de otorgar a la IA la personificación legal ¹.

Los datos clave

• Mustafa Suleyman lidera las operaciones de IA en Microsoft
• Afirma que 'las IA no son conscientes' pero actualizaría su opinión si aparece evidencia
• Califica el desarrollo de IA consciente como 'temerario' y dice que los desarrolladores no tienen derecho a crear seres conscientes
• Anthropic ha sugerido que sus modelos podrían ya ser conscientes, alimentando el debate

Fuentes

1. Microsoft AI CEO Says He's Open to Agents Deserving Rights If He Sees the Right Evidence — futurism.com