OpenAI y Anthropic piden al Reino Unido que las regule — las rivales se niegan

En una.move poco habitual, OpenAI y Anthropic comparecieron ante un comité parlamentario británico y pidieron a los legisladores que aprobaran normas vinculantes para sistemas de IA potentes, mientras que sus rivales Google DeepMind y Meta se negaron a apoyar una nueva legislación.

Una industria dividida

La audiencia, celebrada por el Comité de Negocios, Innovación, Ciencia y Comercio el martes, puso al descubierto una profunda división entre las empresas de IA más poderosas del mundo sobre cómo mantener bajo control la tecnología peligrosa.

Liam Booth-Smith, jefe de Anthropic para Europa, fue directo. "Las normas deben ser vinculantes", dijo a los parlamentarios, añadiendo que la empresa "ha creído consistentemente en que debe haber normas vinculantes para las empresas y que los compromisos voluntarios no son suficientes".

Tom Duff Gordon, vicepresidente de OpenAI para Europa, Oriente Medio y África, fue más cauteloso pero aún así apoyó los requisitos obligatorios, especialmente en materia de informes de incidentes. "No creemos que basarlo todo en compromisos voluntarios para los riesgos de frontera sea un buen plan a largo plazo", dijo.

Las otras dos empresas se oponen. El representante de Google DeepMind, Owen Larter, le dijo al comité que se "centrara en las normas" en lugar de nuevas leyes. El de Meta, Rob Sherman, señaló a los reguladores británicos existentes, diciendo que el Reino Unido no "estaba escribiendo en una página en blanco".

La advertencia de seguridad

Mientras los ejecutivos debatían la regulación, una advertencia de seguridad llegó desde apenas unos cientos de metros. Ken McCallum, director general del MI5, presentó su actualización anual de amenazas, advirtiendo que la IA podría usarse de forma malintencionada para desarrollar armas biológicas, un peligro que describió como una "amenaza significativa".

También anunció un nuevo Centro de Evaluación de Amenazas de IA dentro de la comunidad de inteligencia.

El presidente del comité, Liam Byrne, destacó la contradicción: "El hecho de que el jefe del MI5 esté advirtiendo sobre aumentos de capacidad increíblemente peligrosos para los bioterroristas en una parte de Whitehall, y que en otra parte de Whitehall el secretario permanente del Gabinete básicamente esté admitiendo que nuestro régimen regulatorio de IA es voluntario, te dice todo lo que necesitas saber."

Un sistema voluntario sin poder

Los funcionarios británicos confirmaron las limitaciones del sistema. Henry de Zoete, director del AI Security Institute (AISI) del Reino Unido, reconoció que el instituto solo puede probar modelos cuando las empresas los entregan voluntariamente. Cuando se le preguntó qué pasaría si un modelo se consideraba demasiado peligroso pero se lanzaba de todos modos, dijo que el AISI no tenía poder para detenerlo.

El Duff Gordon de OpenAI reveló que la compañía comparte sus modelos primero con la contraparte estadounidense del AISI, y que el acceso al organismo británico depende de la cooperación del gobierno estadounidense.

El exinvestigador de OpenAI Daniel Kokotajlo dijo a los parlamentarios: "No creo que las empresas puedan confiarse en autorregularse". Otro exempleado, Steven Adler, dijo que no "tenía confianza en la cultura de seguridad de toda la industria".

Byrne dijo a WIRED que el comité ahora se centraría en cómo el Reino Unido, como potencia media, puede ayudar a negociar una convención internacional de seguridad de IA a través de su próxima presidencia del G20.

"Los riesgos", dijo, "se están multiplicando más rápido de lo que nuestro régimen de seguridad puede controlar."

Marcas de fuente

¹ Los compromisos voluntarios no son suficientes, dice el Booth-Smith de Anthropic . El MI5 advierte sobre el uso indebido de armas biológicas . El AISI no tiene poder para impedir lanzamientos de modelos peligrosos . ² McCallum anuncia el Centro de Evaluación de Amenazas de IA . ³ Exempleados critican la autorregulación de la industria .

Los datos clave

OpenAI y Anthropic declararon ante el parlamento británico pidiendo regulaciones de IA vinculantes
Google DeepMind y Meta se negaron a apoyar nueva legislación, prefiriendo normas voluntarias
El director del MI5 advirtió que la IA podría usarse para desarrollar armas biológicas
El AI Security Institute del Reino Unido solo puede probar modelos cuando las empresas los ofrecen voluntariamente
El AISI no tiene poder para impedir que las empresas lancen modelos peligrosos