CEO Google DeepMind, Demis Hassabis, telah mengemukakan satu rangka kerja kawal selia untuk mengawal selia pelancaran model AI perintis. Beliau mahukan sebuah badan piawaian khusus untuk menggantikan sistem semakan kerajaan yang tidak teratur pada masa ini dengan sistem pengawasan yang profesional dan ketat dari segi teknikal.

Model FINRA untuk Kecerdasan Buatan

Dalam cadangannya, “A Framework for Frontier AI and the Dawning of a New Age,” Hassabis menjadikan Financial Industry Regulatory Authority (FINRA) sebagai model bagi entiti baharu tersebut. Beliau membayangkan sebuah organisasi bebas, disokong oleh kerajaan AS tetapi dibiayai oleh industri AI.

Mekanisme ini akan berfungsi dalam dua fasa. Pertama, makmal perintis akan menyerahkan model mereka secara sukarela kepada Badan Piawaian untuk semakan selama 30 hari sebelum pelancaran awam. Selepas protokol penilaian terbukti berkesan, sistem tersebut akan beralih kepada keperluan mandatori: model perintis mesti lulus ujian piawaian untuk memasuki pasaran AS. Reka bentuk ini dapat mengesan kerentanan kritikal sama ada sebelum atau selepas penggunaan.

Menangani Kelemahan dalam Pengawasan Semasa

Hassabis mendesak agar sebuah badan khusus diwujudkan kerana beliau menganggap usaha kawal selia hari ini adalah tidak mencukupi. Beliau memetik semakan kerajaan AS baru-baru ini terhadap Mythos oleh Anthropic dan Sol oleh OpenAI sebagai contoh amaran. Penilaian tersebut menerima kecaman kerana kekurangan kepakaran teknikal yang mendalam dan proses membuat keputusan yang tidak telus mengenai garis masa pelancaran.

Sebuah organisasi kawal selia kendiri akan membolehkan industri mengelakkan geseran politik yang kini menyelubungi pengawasan AI. Penasihat AI Rumah Putih, Sriram Krishnan, baru-baru ini memberi amaran bahawa kewujudan “FDA untuk AI” di dalam cawangan eksekutif adalah tidak mungkin. Model gaya FINRA menawarkan jalan tengah: kebebasan teknikal tanpa halangan birokrasi daripada agensi kerajaan secara langsung.

Kepakaran Teknikal dan Keselamatan Boleh Skala

Hassabis menekankan bahawa tenaga kerja kawal selia mestilah datang daripada dalam industri dan komuniti sumber terbuka. Dengan kakitangan yang memahami seni bina model dan risiko yang muncul, badan tersebut dapat menilai model dengan kepakaran sebenar.

Rangka kerja ini juga membolehkan pendekatan keselamatan terpencar. Badan Piawaian boleh melantik kumpulan keselamatan AI khusus untuk penilaian risiko yang terperinci. Memandangkan organisasi tersebut akan menyesuaikan diri dengan pecutan pantas bidang ini, pengawasan boleh “ditingkatkan” secara dinamik apabila risiko baharu yang lebih teruk muncul. Ini memastikan kawal selia kekal sebagai pemudah cara bagi inovasi yang bertanggungjawab dan bukannya sebagai penghalang.

Ringkasan Utama

  • Model Kawal Selia Hibrid: Hassabis mencadangkan sebuah badan bebas yang dibiayai oleh industri dan disokong oleh kerajaan, yang dicontohi daripada FINRA untuk menyelia pelancaran model perintis.
  • Pelaksanaan Berfasa: Rancangan ini bermula dengan semakan pra-pelancaran sukarela selama 30 hari dan beralih kepada pematuhan mandatori untuk pasaran AS.
  • Ketegasan Teknikal: Badan tersebut akan memanfaatkan pakar industri dan wakil sumber terbuka untuk merapatkan “jurang kepakaran” yang dilihat dalam semakan yang diterajui kerajaan pada masa ini.