デミス・ハサビス氏、リスク管理のための米国主導によるグローバルなAI監視機関の設立を提唱
Google DeepMindのCEOであるデミス・ハサビス氏は、危険なフロンティアAIモデルの展開を停止させる能力を持つ、強力な国際的な規制機関の設立を提唱している。人工汎用知能（AGI）の追求が加速する中、ハサビス氏は、壊滅的な結果を防ぐためには標準化されたグローバルな枠組みが不可欠であると主張している。
金融監督に基づく規制モデル
最近の提案書「A Framework for Frontier AI and the Dawning of a New Age（フロンティアAIのための枠組みと新時代の幕開け）」の中で、ハサビス氏は金融業規制機構（FINRA）に似た規制構造を提案している。この提案されている監視機関は、単なる諮問委員会ではなく、独立した専門家やオープンソースコミュニティの代表者で構成され、フロンティアモデルのリリース前にそれらを評価する明確な権限を持つものとなる。
極めて重要な点として、この組織は、特定のモデルの展開がリスクが高すぎると判断された場合、業界全体の「減速（slowdown）」を調整する権限を持つことになる。このメカニズムは、競合他社よりも早くAGIに到達しようとして企業が安全プロトコルを犠牲にする「底辺への競争（race to the bottom）」を防ぐことを目的としている。
なぜ米国が主導すべきなのか
ハサビス氏は、米国はこのグローバルな取り組みを先導する上で独自の立場にあると主張している。AI分野における米国の圧倒的な経済的・技術的な地位を考慮すると、米国には世界中の国々が従うべき基準を設定するために必要な影響力がある。
この提案の緊急性は、AGIは「おそらくあと数年で実現するだろう」というハサビス氏の信念に裏打ちされている。彼は現在の時代を、人類を根本的に再定義することになる変革期、「シンギュラリティの麓（foothills of the singularity）」であると捉えている。この移行を管理するために、彼は民間によるイノベーションと公共の安全との間の溝を埋めるべく活動している。
政治および業界のコンセンサス形成
正式な規制に向けた動きは、すでに水面下で勢いを増している。報告によると、ハサビス氏は欧州の当局者、主要なAI研究所、トランプ政権を含むさまざまなステークホルダーへの説明に数ヶ月を費やしてきた。Axiosによれば、次期米政権からの初期のフィードバックは「非常に肯定的」であり、より構造化された連邦政府による監督へとシフトする可能性を示唆している。
このガバナンスへの推進は、Anthropicの共同創設者であるジャック・クラーク氏や、元Google CEOのエリック・シュミット氏を含む他の業界の巨頭たちが、AIの経済的および存亡に関わる影響について最近発している警告とも一致している。2024年のノーベル賞受賞者であるハサビス氏は、AIが生物兵器の製造を支援する可能性といった、特定の重大なリスクについても声を上げてきた。
AIエコシステムへの広範な影響
もし実現すれば、この監視機関はここ数十年間で最も重要なテクノロジー政策の転換を意味することになる。開発者や創業者にとって、それは「素早く動き、破壊せよ（move fast and break things）」の時代から、展開前の監査が常態化する高度に規制された時代への移行を意味する。これがイノベーションを阻害することを懸念する声もあるが、ハサビス氏は、AGI主導の世界への移行を安全かつ安定したものにするためには、一貫した枠組みこそが唯一の方法であると主張している。
主なポイント
- 規制の実効性: 提案されている監視機関は、フロンティアモデルを評価し、リスクが高すぎる場合には業界全体の減速を義務付ける権限を持つ。
- 米国のリーダーシップ: ハサビス氏は、世界のAI経済および技術インフラにおける中心的な役割から、米国がこの取り組みを主導すべきだと主張している。
- AGIの緊急性: この提案は、AGIへの急速な進展によって推進されている。ハサビス氏は、AGIを即時の監督を必要とする「人類にとっての新時代」と見なしている。