Google DeepMind-CEO Demis Hassabis hat einen Regulierungsrahmen für die Veröffentlichung von Frontier-KI-Modellen vorgeschlagen. Er möchte ein spezialisiertes Standardisierungsgremium, das den derzeitigen Flickenteppich staatlicher Überprüfungen durch ein professionelles, technisch fundiertes Aufsichtssystem ersetzt.

Das FINRA-Modell für Künstliche Intelligenz

In seinem Vorschlag „A Framework for Frontier AI and the Dawning of a New Age“ orientiert sich Hassabis bei der Gestaltung der neuen Einheit am Vorbild der Financial Industry Regulatory Authority (FINRA). Er stellt sich eine unabhängige Organisation vor, die von der US-Regierung unterstützt, aber von der KI-Branche finanziert wird.

Der Mechanismus würde in zwei Phasen ablaufen. Zuerst würden Frontier-Labs ihre Modelle dem Standardisierungsgremium für eine 30-tägige Überprüfung vor der öffentlichen Veröffentlichung freiwillig übergeben. Sobald sich die Bewertungsprotokolle als wirksam erwiesen haben, würde das System zu einer verbindlichen Anforderung übergehen: Frontier-Modelle müssten standardisierte Tests bestehen, um auf den US-Markt zugelassen zu werden. Dieses Design ermöglicht es, kritische Schwachstellen sowohl vor als auch nach dem Einsatz zu erkennen.

Die Mängel der aktuellen Aufsicht angehen

Hassabis setzt sich für ein dediziertes Gremium ein, da er die heutigen Regulierungsbemühungen für unzureichend hält. Er nennt die jüngsten Überprüfungen der US-Regierung zu Anthropic’s Mythos und OpenAI’s Sol als mahnende Beispiele. Diese Bewertungen stießen auf Kritik, da es ihnen an tiefem technischem Fachwissen mangelte und die Entscheidungsfindung über Veröffentlichungszeitpläne intransparent war.

Eine Selbstregulierungsorganisation würde es der Branche ermöglichen, die politische Reibung zu umgehen, die derzeit die KI-Aufsicht umgibt. Sriram Krishnan, KI-Berater des Weißen Hauses, warnte kürzlich davor, dass eine „FDA für KI“ innerhalb der Exekutive unwahrscheinlich sei. Ein Modell im Stil der FINRA bietet einen Mittelweg: technische Unabhängigkeit ohne die bürokratischen Hürden einer direkten Regierungsbehörde.

Technische Expertise und skalierbare Sicherheit

Hassabis betont, dass die Fachkräfte für die Regulierung aus der Branche und der Open-Source-Community kommen müssen. Besetzt mit Menschen, die Modellarchitekturen und aufkommende Risiken verstehen, kann das Gremium Modelle mit echter Expertise bewerten.

Der Rahmen ermöglicht zudem einen dezentralen Sicherheitsansatz. Das Standardisierungsgremium könnte spezialisierte KI-Sicherheitsgruppen für detaillierte Risikobewertungen beauftragen. Da sich die Organisation an die rasante Beschleunigung des Feldes anpassen würde, könnte die Aufsicht dynamisch „hochgefahren“ werden, sobald neue, schwerwiegendere Risiken auftreten. Dies stellt sicher, dass die Regulierung ein Förderer verantwortungsvoller Innovationen bleibt und nicht zu einem Engpass wird.

Wichtigste Erkenntnisse

  • Hybrides Regulierungsmodell: Hassabis schlägt ein von der Industrie finanziertes und von der Regierung unterstütztes, unabhängiges Gremium vor, das nach dem Vorbild der FINRA die Veröffentlichung von Frontier-Modellen überwacht.
  • Phasenweise Umsetzung: Der Plan beginnt mit freiwilligen 30-tägigen Überprüfungen vor der Veröffentlichung und geht zu einer verbindlichen Compliance für den US-Markt über.
  • Technische Strenge: Das Gremium würde auf Branchenexperten und Vertreter der Open-Source-Community zurückgreifen, um die „Expertise-Lücke“ zu schließen, die in aktuellen, von der Regierung geleiteten Überprüfungen sichtbar ist.