Demis Hassabis wzywa do powołania globalnego organu nadzorczego nad AI pod przewodnictwem USA w celu zarządzania ryzykiem

Dyrektor generalny Google DeepMind, Demis Hassabis, opowiada się za stworzeniem potężnego międzynarodowego organu regulacyjnego, zdolnego do wstrzymania wdrażania niebezpiecznych, zaawansowanych modeli AI (frontier AI models). W miarę jak dążenie do osiągnięcia ogólnej sztucznej inteligencji (AGI) przyspiesza, Hassabis twierdzi, że ustandaryzowane globalne ramy są niezbędne, aby zapobiec katastrofalnym skutkom.

Model regulacyjny oparty na nadzorze finansowym

W swoim niedawnym projekcie pt. „A Framework for Frontier AI and the Dawning of a New Age” Hassabis sugeruje strukturę regulacyjną podobną do Financial Industry Regulatory Authority (FINRA). Proponowany organ nadzorczy nie byłby jedynie radą doradczą; składałby się z niezależnych ekspertów oraz przedstawicieli społeczności open-source, posiadając wyraźne uprawnienia do oceny zaawansowanych modeli przed ich udostępnieniem.

Co kluczowe, organizacja posiadałaby uprawnienia do koordynowania „spowolnienia” w całej branży, jeśli dany model zostanie uznany za zbyt ryzykowny do wdrożenia. Mechanizm ten ma zapobiec „wyścigowi na dno”, w którym firmy poświęcają protokoły bezpieczeństwa w próbie szybszego osiągnięcia AGI niż ich konkurenci.

Dlaczego Stany Zjednoczone powinny przewodzić tym działaniom

Hassabis argumentuje, że Stany Zjednoczone są w wyjątkowej pozycji, aby poprowadzić tę globalną inicjatywę. Biorąc pod uwagę dominującą pozycję gospodarczą i techniczną kraju w sektorze AI, USA dysponują narzędziami niezbędnymi do ustalenia standardów, za którymi może podążyć reszta świata.

Pilność tego projektu wynika z przekonania Hassabisa, że AGI jest „prawdopodobnie oddalone o zaledwie kilka lat”. Postrzega on obecną erę jako „podnóże osobliwości” (foothills of the singularity) – transformacyjny okres, który fundamentalnie przedefiniuje ludzkość. Aby zarządzać tą transformacją, pracuje on nad zmniejszeniem przepaści między prywatnymi innowacjami a bezpieczeństwem publicznym.

Budowanie konsensusu politycznego i branżowego

Dążenie do formalnej regulacji nabiera już tempa za kulisami. Raporty wskazują, że Hassabis spędził miesiące na informowaniu różnych interesariuszy, w tym urzędników europejskich, głównych laboratoriów AI oraz administracji Trumpa. Według Axios, wczesne opinie nadchodzącej administracji USA były „bardzo pozytywne”, co sugeruje potencjalny zwrot w stronę bardziej ustrukturyzowanego nadzoru federalnego.

Te dążenia do wprowadzenia zasad zarządzania (governance) są zbieżne z niedawnymi ostrzeżeniami innych gigantów branży, w tym współzałożyciela Anthropic Jacka Clarka i byłego dyrektora generalnego Google Erica Schmidta, dotyczącymi ekonomicznych i egzystencjalnych skutków AI. Hassabis, laureat Nagrody Nobla z 2024 roku, głośno wypowiadał się również na temat konkretnych ryzyk o wysokiej stawce, takich jak potencjał wykorzystania AI do pomocy w produkcji broni biologicznej.

Szersze implikacje dla ekosystemu AI

Jeśli zostanie zrealizowany, organ nadzorczy będzie reprezentował najbardziej znaczącą zmianę w polityce technologicznej od dziesięcioleci. Dla programistów i założycieli firm oznacza to przejście z okresu „działaj szybko i psuj rzeczy” (move fast and break things) do wysoce uregulowanej ery, w której audyty przedwdrożeniowe staną się normą. Choć niektórzy obawiają się, że może to zahamować innowacje, Hassabis twierdzi, że spójne ramy są jedynym sposobem na zapewnienie, aby przejście do świata napędzanego przez AGI było bezpieczne i stabilne.

Kluczowe wnioski

• Realna władza regulacyjna: Proponowany organ nadzorczy miałby uprawnienia do oceny zaawansowanych modeli i nakładania na całą branżę spowolnień, jeśli ryzyko będzie zbyt wysokie.
• Przywództwo USA: Hassabis uważa, że USA powinny przewodzić tej inicjatywie ze względu na swoją centralną rolę w globalnej gospodarce AI i infrastrukturze technicznej.
• Pilność związana z AGI: Projekt jest napędzany szybkim postępem w kierunku AGI, co Hassabis postrzega jako „nową erę dla ludzkości”, wymagającą natychmiastowego nadzoru.