OpenAI e Anthropic chiedono al Regno Unito di regolamentarle — I rivali rifiutano

In una mossa insolita, OpenAI e Anthropic sono apparse davanti a una commissione parlamentare britannica e hanno chiesto ai legislatori di approvare regole vincolanti per i sistemi di intelligenza artificiale più potenti, mentre i loro rivali Google DeepMind e Meta hanno rifiutato di sostenere un nuovo disegno di legge.

Un settore diviso

L'audizione, tenuta martedì dalla Commissione per il Commercio, l'Innovazione, la Scienza e i Trasporti, ha messo in evidenza una profonda spaccatura tra le aziende di intelligenza artificiale più potenti del mondo su come mantenere sotto controllo la tecnologia pericolosa.

Liam Booth-Smith, capo di Anthropic per l'Europa, è stato diretto. "Le regole dovrebbero essere vincolanti", ha detto ai membri del parlamento, aggiungendo che l'azienda ha "costantemente creduto che ci dovrebbero essere regole vincolanti per le aziende e che gli impegni volontari non siano sufficienti".

Tom Duff Gordon, vicepresidente di OpenAI per Europa, Medio Oriente e Africa, è stato più cauto ma ha comunque sostenuto requisiti obbligatori, in particolare per la segnalazione degli incidenti. "Non pensiamo che basare tutto su impegni volontari per i rischi frontier sia un buon piano a lungo termine", ha detto.

Le altre due aziende hanno obiettato. Owen Larter di Google DeepMind ha suggerito alla commissione di "concentrarsi sugli standard" anziché su nuove leggi. Rob Sherman di Meta ha indicato i regolatori britannici esistenti, affermando che il Regno Unito "non sta partendo da zero".

L'avvertimento sulla sicurezza

Mentre i dirigenti dibattevano sulla regolamentazione, un avvertimento sulla sicurezza è arrivato a poche centinaia di metri di distanza. Ken McCallum, direttore generale di MI5, ha consegnato il suo rapporto annuale sulle minacce, avvisando che l'intelligenza artificiale potrebbe essere abusata per sviluppare armi biologiche, un pericolo che ha definito una "minaccia significativa".

Ha anche annunciato la creazione di un Centro di valutazione delle minacce dell'intelligenza artificiale all'interno della comunità dei servizi segreti.

Il presidente della commissione Liam Byrne ha evidenziato la contraddizione: "Il fatto che il capo di MI5 stia avvisando riguardo a incrementi di capacità incredibilmente pericolosi per ibioterroristi in un reparto di Whitehall, e che in un altro reparto di Whitehall il segretario permanente del Cabinet Office stia sostanzialmente ammettendo che il nostro regime di regolamentazione per l'intelligenza artificiale è volontario, vi dice tutto quello che c'è da sapere".

Un sistema volontario senza poteri

I funzionari britannici hanno confermato i limiti del sistema. Henry de Zoete, direttore dell'AI Security Institute (AISI) del Regno Unito, ha riconosciuto che l'istituto può solo testare i modelli quando le aziende li consegnano volontariamente. Quando gli è stato chiesto cosa sarebbe successo se un modello fosse stato giudicato troppo pericoloso ma comunque rilasciato, ha dichiarato che l'AISI non aveva alcun potere per fermarlo.

Duff Gordon di OpenAI ha rivelato che l'azienda condivide i propri modelli prima con l'omologo americano dell'AISI, e che l'accesso all'ente britannico dipende dalla cooperazione del governo statunitense.

Il ricercatore ex-OpenAI Daniel Kokotajlo ha detto ai membri del parlamento: "Non penso che le aziende possano essere fidate per autoregolarsi". Un altro ex dipendente, Steven Adler, ha dichiarato di non essere "fiducioso nella cultura della sicurezza in tutto il settore".

Byrne ha detto a WIRED che la commissione ora si concentrerà su come il Regno Unito, come potenza media, possa aiutare a promuovere una convenzione internazionale sulla sicurezza dell'intelligenza artificiale attraverso la sua prossima presidenza del G20.

"I rischi", ha detto, "si moltiplicano più rapidamente di quanto il nostro regime di sicurezza riesca a controllare".

Indicatori di fonte

¹ Gli impegni volontari non sono sufficienti, dice Booth-Smith di Anthropic . MI5 avvisa di possibili abusi per la creazione di armi biologiche . L'AISI non ha poteri per impedire il rilascio di modelli pericolosi . ² McCallum annuncia il Centro di valutazione delle minacce dell'intelligenza artificiale . ³ Ex dipendenti criticano l'autoregolamentazione del settore .

I fatti principali

• OpenAI e Anthropic hanno testimoniato davanti al parlamento britannico chiedendo regolamentazioni vincolanti per l'intelligenza artificiale
• Google DeepMind e Meta si sono opposti a un nuovo disegno di legge, preferendo standard volontari
• Il direttore di MI5 ha avvisato che l'intelligenza artificiale potrebbe essere utilizzata per sviluppare armi biologiche
• L'AI Security Institute britannico può testare i modelli solo quando le aziende li consegnano volontariamente
• L'AISI non ha poteri per impedire alle aziende di rilasciare modelli pericolosi

Fonti

1. OpenAI and Anthropic Tell British Lawmakers: Regulate Us — wired.com
2. OpenAI and Anthropic Back Mandatory AI Regulation at UK Parliament on ... — gate.com
3. OpenAI and Anthropic urge UK lawmakers to pass binding AI rules — cryptobriefing.com
4. OpenAI and Anthropic Call for UK AI Regulation — theaicronicle.com