Le PDG de Google DeepMind, Demis Hassabis, a proposé un cadre réglementaire pour régir la sortie des modèles d'IA de pointe. Il souhaite qu'un organisme de normalisation spécialisé remplace l'actuel patchwork de contrôles gouvernementaux par un système de surveillance professionnel et techniquement rigoureux.
Le modèle FINRA pour l'intelligence artificielle
Dans sa proposition, « A Framework for Frontier AI and the Dawning of a New Age », Hassabis s'inspire de la Financial Industry Regulatory Authority (FINRA) pour concevoir cette nouvelle entité. Il envisage une organisation indépendante, soutenue par le gouvernement américain mais financée par l'industrie de l'IA.
Le mécanisme fonctionnerait en deux phases. Premièrement, les laboratoires de pointe remettraient volontairement leurs modèles à l'organisme de normalisation pour un examen de 30 jours avant leur sortie publique. Une fois l'efficacité des protocoles d'évaluation prouvée, le système passerait à une exigence obligatoire : les modèles de pointe devraient réussir des tests standardisés pour accéder au marché américain. Cette conception permet de détecter les vulnérabilités critiques tant avant qu'après le déploiement.
Remédier aux failles de la surveillance actuelle
Hassabis plaide pour un organisme dédié car il juge les efforts réglementaires actuels inadéquats. Il cite les récents examens du gouvernement américain sur Mythos d'Anthropic et Sol d'OpenAI comme exemples de mise en garde. Ces évaluations ont suscité des critiques en raison d'un manque d'expertise technique approfondie et d'un processus de décision opaque concernant les calendriers de sortie.
Une organisation d'autorégulation permettrait à l'industrie de contourner les frictions politiques qui entourent actuellement la surveillance de l'IA. Le conseiller en IA de la Maison Blanche, Sriram Krishnan, a récemment averti qu'une « FDA pour l'IA » au sein de la branche exécutive était peu probable. Un modèle de type FINRA offre un juste milieu : une indépendance technique sans les obstacles bureaucratiques d'une agence gouvernementale directe.
Expertise technique et sécurité évolutive
Hassabis souligne que les effectifs réglementaires doivent provenir de l'industrie et de la communauté open-source. Composé de personnes comprenant l'architecture des modèles et les risques émergents, l'organisme pourra évaluer les modèles avec une véritable expertise.
Le cadre permet également une approche de sécurité décentralisée. L'organisme de normalisation pourrait faire appel à des groupes spécialisés en sécurité de l'IA pour des évaluations de risques granulaires. Comme l'organisation s'adapterait à l'accélération rapide du domaine, la surveillance pourrait être « intensifiée » de manière dynamique à mesure que de nouveaux risques, plus graves, apparaissent. Cela permet de faire de la réglementation un facilitateur d'innovation responsable plutôt qu'un goulot d'étranglement.
Points clés à retenir
- Modèle réglementaire hybride : Hassabis propose un organisme indépendant financé par l'industrie et soutenu par le gouvernement, calqué sur le modèle de la FINRA, pour superviser la sortie des modèles de pointe.
- Mise en œuvre progressive : Le plan commence par des examens de pré-lancement volontaires de 30 jours et évolue vers une conformité obligatoire pour le marché américain.
- Rigueur technique : L'organisme s'appuierait sur des experts de l'industrie et des représentants de l'open-source pour combler le « fossé d'expertise » constaté dans les examens actuels menés par le gouvernement.