Google DeepMindのCEOであるデミス・ハサビス氏は、フロンティアAIモデルのリリースを管理するための規制枠組みを提案しました。彼は、現在の政府による場当たり的な審査に代わり、専門的かつ技術的に厳格な監視システムを備えた、特化した標準化団体を設立することを求めています。

人工知能のためのFINRAモデル

自身の提案書「A Framework for Frontier AI and the Dawning of a New Age（フロンティアAIのための枠組みと新時代の幕開け）」の中で、ハサビス氏は新しい組織を金融業規制機構（FINRA）をモデルとして構想しています。彼は、米国政府の支援を受けつつ、AI業界からの資金提供によって運営される独立した組織を想定しています。

この仕組みは2つのフェーズで機能します。まず、フロンティア・ラボは、モデルを一般公開する前に、30日間の審査を受けるために自発的に標準化団体へモデルを提出します。評価プロトコルが有効であることが証明された後、システムは義務的な要件へと移行します。つまり、フロンティアモデルが米国市場に参入するためには、標準化されたテストに合格しなければならなくなります。この設計により、展開前と展開後の両方で重大な脆弱性を捉えることが可能になります。

現在の監視体制における欠陥への対処

ハサビス氏が専用の組織を推進しているのは、現在の規制の取り組みが不十分であると考えているためです。彼は、AnthropicのMythosやOpenAIのSolに対する最近の米国政府による審査を、教訓的な事例として挙げています。それらの評価は、深い技術的専門知識の欠如や、リリース時期に関する意思決定の不透明さから、反発を招きました。

自律規制組織を導入することで、業界は現在AIの監視をめぐって発生している政治的な摩擦を回避できるようになります。ホワイトハウスのAIアドバイザーであるシュリラム・クリシュナン氏は、行政機関内に「AIのためのFDA」が設立される可能性は低いと最近警告しました。FINRAスタイルのモデルは、政府機関が直接介入することによる官僚的な障壁を避けつつ、技術的な独立性を確保するという、中間的な解決策を提示しています。

技術的専門知識と拡張可能な安全性

ハサビス氏は、規制に携わる人材は業界内部やオープンソース・コミュニティから確保されるべきだと強調しています。モデルのアーキテクチャや新たなリスクを理解している人々がスタッフとして配置されることで、その組織は真の専門知識を持ってモデルを評価できるようになります。

また、この枠組みは分散型の安全性へのアプローチも可能にします。標準化団体は、詳細なリスク評価のために専門のAI安全性グループに業務を委託することができます。この組織は分野の急速な進展に適応していくため、より深刻な新しいリスクが現れるにつれて、監視体制を動的に強化していくことができます。これにより、規制がイノベーションのボトルネックになるのではなく、責任あるイノベーションを促進する役割を果たし続けることが可能になります。

主なポイント

  • ハイブリッド規制モデル: ハサビス氏は、フロンティアモデルのリリースを監督するために、FINRAをモデルとした、業界が資金を出し政府が支援する独立組織を提案しています。
  • 段階的な導入: この計画は、リリース前の30日間の自発的な審査から始まり、最終的には米国市場における義務的なコンプライアンスへと移行します。
  • 技術的な厳格さ: この組織は、業界の専門家やオープンソースの代表者を登用することで、現在の政府主導の審査で見られる「専門知識のギャップ」を埋めることを目指します。