Demis Hassabis invoca un organismo di controllo globale sull'IA a guida statunitense per gestire i rischi

Il CEO di Google DeepMind, Demis Hassabis, sta sostenendo la creazione di un potente organismo di regolamentazione internazionale capace di bloccare il dispiegamento di modelli di IA frontier pericolosi. Mentre la ricerca dell'Intelligenza Artificiale Generale (AGI) accelera, Hassabis sostiene che un quadro globale standardizzato sia essenziale per prevenire esiti catastrofici.

Un modello di regolamentazione basato sulla supervisione finanziaria

Nella sua recente proposta, "A Framework for Frontier AI and the Dawning of a New Age", Hassabis suggerisce una struttura di regolamentazione simile alla Financial Industry Regulatory Authority (FINRA). Questo organismo di controllo proposto non sarebbe un semplice comitato consultivo; sarebbe composto da esperti indipendenti e rappresentanti della comunità open-source, con l'esplicito potere di valutare i modelli frontier prima del loro rilascio.

Fondamentalmente, l'organizzazione avrebbe il potere di coordinare un "rallentamento" a livello di intero settore se un modello specifico venisse ritenuto troppo rischioso da implementare. Questo meccanismo mira a prevenire una "corsa al ribasso" in cui le aziende sacrificano i protocolli di sicurezza nel tentativo di raggiungere l'AGI più velocemente dei propri concorrenti.

Perché gli Stati Uniti dovrebbero guidare l'iniziativa

Hassabis sostiene che gli Stati Uniti siano in una posizione unica per guidare questa iniziativa globale. Data la posizione economica e tecnica dominante del Paese nel settore dell'IA, gli Stati Uniti hanno la leva necessaria per stabilire standard che il resto del mondo possa seguire.

L'urgenza di questa proposta è dettata dalla convinzione di Hassabis che l'AGI sia "probabilmente a soli pochi anni di distanza". Egli vede l'era attuale come le "pendici della singolarità", un periodo trasformativo che ridefinirà fondamentalmente l'umanità. Per gestire questa transizione, sta lavorando per colmare il divario tra l'innovazione privata e la sicurezza pubblica.

Costruire un consenso politico e industriale

La spinta verso una regolamentazione formale sta già guadagnando slancio dietro le quinte. Diversi rapporti indicano che Hassabis ha trascorso mesi a informare vari stakeholder, tra cui funzionari europei, i principali laboratori di IA e l'amministrazione Trump. Secondo Axios, i primi feedback della prossima amministrazione statunitense sono stati "molto positivi", suggerendo un potenziale spostamento verso una supervisione federale più strutturata.

Questa spinta verso la governance si allinea con i recenti avvertimenti di altri titani del settore, tra cui il co-fondatore di Anthropic Jack Clark e l'ex CEO di Google Eric Schmidt, riguardo agli impatti economici ed esistenziali dell'IA. Hassabis, vincitore del Premio Nobel 2024, si è espresso apertamente anche su rischi specifici ad alto rischio, come il potenziale dell'IA di assistere nella produzione di armi biologiche.

Le implicazioni più ampie per l'ecosistema dell'IA

Se si concretizzasse, questo organismo di controllo rappresenterebbe il cambiamento più significativo nella politica tecnologica degli ultimi decenni. Per sviluppatori e fondatori, ciò significherebbe passare da un periodo di "muoviti velocemente e rompi tutto" a un'era altamente regolamentata in cui gli audit pre-dispiegamento sono la norma. Sebbene alcuni temano che ciò possa soffocare l'innovazione, Hassabis sostiene che un quadro coerente sia l'unico modo per garantire che la transizione verso un mondo guidato dall'AGI sia sicura e stabile.

Punti chiave

• Potere regolatorio: L'organismo di controllo proposto avrebbe l'autorità di valutare i modelli frontier e imporre rallentamenti a livello di intero settore se i rischi fossero troppo elevati.
• Leadership degli Stati Uniti: Hassabis sostiene che gli Stati Uniti dovrebbero guidare l'iniziativa a causa del loro ruolo centrale nell'economia globale dell'IA e nell'infrastruttura tecnica.
• Urgenza dell'AGI: La proposta è guidata dal rapido progresso verso l'AGI, che Hassabis considera una "nuova era per l'umanità" che richiede una supervisione immediata.