Demis Hassabis appelle à la création d'un organisme de surveillance mondial de l'IA, dirigé par les États-Unis, pour gérer les risques
Le PDG de Google DeepMind, Demis Hassabis, préconise la création d'un puissant organisme de réglementation international capable d'interrompre le déploiement de modèles d'IA de pointe dangereux. Alors que la quête de l'intelligence artificielle générale (AGI) s'accélère, Hassabis soutient qu'un cadre mondial standardisé est essentiel pour prévenir des conséquences catastrophiques.
Un modèle de réglementation basé sur la surveillance financière
Dans sa récente proposition, « A Framework for Frontier AI and the Dawning of a New Age », Hassabis suggère une structure réglementaire similaire à la Financial Industry Regulatory Authority (FINRA). Cet organisme de surveillance proposé ne serait pas un simple conseil consultatif ; il serait composé d'experts indépendants et de représentants de la communauté open-source, dotés de l'autorité explicite d'évaluer les modèles de pointe avant leur sortie.
De manière cruciale, l'organisation aurait le pouvoir de coordonner un « ralentissement » à l'échelle de l'industrie si un modèle spécifique est jugé trop risqué à déployer. Ce mécanisme vise à prévenir une « course vers le bas » où les entreprises sacrifieraient les protocoles de sécurité dans le but d'atteindre l'AGI plus rapidement que leurs concurrents.
Pourquoi les États-Unis devraient mener la charge
Hassabis soutient que les États-Unis sont idéalement positionnés pour piloter cette initiative mondiale. Compte tenu de la position économique et technique dominante du pays dans le secteur de l'IA, les États-Unis disposent du levier nécessaire pour établir des normes que le reste du monde pourra suivre.
L'urgence de cette proposition est dictée par la conviction de Hassabis que l'AGI n'est « probablement qu'à quelques courtes années ». Il considère l'ère actuelle comme les « contreforts de la singularité », une période transformatrice qui redéfinira fondamentalement l'humanité. Pour gérer cette transition, il s'efforce de combler le fossé entre l'innovation privée et la sécurité publique.
Bâtir un consensus politique et industriel
La marche vers une réglementation formelle gagne déjà du terrain en coulisses. Des rapports indiquent que Hassabis a passé des mois à informer diverses parties prenantes, notamment des responsables européens, de grands laboratoires d'IA et l'administration Trump. Selon Axios, les premiers retours de la future administration américaine ont été « très positifs », suggérant un changement potentiel vers une surveillance fédérale plus structurée.
Cette volonté de gouvernance s'aligne sur les récents avertissements d'autres titans de l'industrie, notamment le cofondateur d'Anthropic Jack Clark et l'ancien PDG de Google Eric Schmidt, concernant les impacts économiques et existentiels de l'IA. Hassabis, lauréat du prix Nobel 2024, s'est également exprimé sur des risques spécifiques à enjeux élevés, tels que le potentiel de l'IA pour aider à la production d'armes biologiques.
Les implications plus larges pour l'écosystème de l'IA
Si elle se concrétise, cette surveillance représenterait le changement le plus important de la politique technologique depuis des décennies. Pour les développeurs et les fondateurs, cela signifie passer d'une période de « move fast and break things » à une ère hautement réglementée où les audits de pré-déploiement sont la norme. Bien que certains craignent que cela ne freine l'innovation, Hassabis soutient qu'un cadre cohérent est le seul moyen de garantir que la transition vers un monde piloté par l'AGI soit sûre et stable.
Points clés à retenir
- Pouvoir de régulation : L'organisme de surveillance proposé aurait l'autorité d'évaluer les modèles de pointe et d'imposer des ralentissements à l'échelle de l'industrie si les risques sont trop élevés.
- Leadership des États-Unis : Hassabis soutient que les États-Unis devraient mener l'initiative en raison de leur rôle central dans l'économie mondiale de l'IA et l'infrastructure technique.
- Urgence de l'AGI : La proposition est motivée par les progrès rapides vers l'AGI, que Hassabis considère comme une « nouvelle ère pour l'humanité » nécessitant une surveillance immédiate.