Google DeepMind CEO'su Demis Hassabis, sınır yapay zeka (frontier AI) modellerinin piyasaya sürülmesini düzenlemek için bir düzenleme çerçevesi sundu. Mevcut hükümet incelemelerinden oluşan karmaşık yapının yerine, profesyonel ve teknik açıdan titiz bir denetim sistemi getirecek uzmanlaşmış bir standartlar kurulu istiyor.

Yapay Zeka İçin FINRA Modeli

“A Framework for Frontier AI and the Dawning of a New Age” (Sınır Yapay Zeka İçin Bir Çerçeve ve Yeni Bir Çağın Şafağı) başlıklı önerisinde Hassabis, yeni kuruluşu Finansal Endüstri Düzenleme Kurumu'na (FINRA) benzetiyor. ABD hükümeti tarafından desteklenen ancak yapay zeka endüstrisi tarafından finanse edilen bağımsız bir organizasyon hayal ediyor.

Mekanizma iki aşamada işleyecek. İlk olarak, sınır laboratuvarları modellerini halka açılmadan önce 30 günlük bir inceleme için gönüllü olarak Standartlar Kurulu'na teslim edecek. Değerlendirme protokollerinin etkili olduğu kanıtlandıktan sonra sistem zorunlu bir gerekliliğe dönüşecek: sınır modellerinin ABD pazarına girebilmek için standartlaştırılmış testlerden geçmesi gerekecek. Bu tasarım, kritik güvenlik açıklarını hem kullanıma sunulmadan önce hem de sonra tespit edebiliyor.

Mevcut Denetimdeki Kusurların Giderilmesi

Hassabis, günümüzdeki düzenleme çabalarını yetersiz gördüğü için özel bir kurulun oluşturulmasını savunuyor. Anthropic'in Mythos ve OpenAI'ın Sol modellerine yönelik son ABD hükümeti incelemelerini uyarıcı örnekler olarak gösteriyor. Bu değerlendirmeler, derin teknik uzmanlıktan yoksun olmaları ve yayın takvimlerine ilişkin karar alma süreçlerinin şeffaf olmaması nedeniyle tepki çekti.

Özdenetim mekanizmasına sahip bir kuruluş, endüstrinin yapay zeka denetimi etrafında dönen siyasi sürtüşmelerden kaçınmasını sağlayacaktır. Beyaz Saray Yapay Zeka Danışmanı Sriram Krishnan, yürütme organı içinde bir “Yapay Zeka için FDA” kurulmasının pek olası olmadığını yakın zamanda belirtti. FINRA tarzı bir model orta bir yol sunuyor: doğrudan bir devlet kurumunun bürokratik engelleri olmadan teknik bağımsızlık.

Teknik Uzmanlık ve Ölçeklenebilir Güvenlik

Hassabis, düzenleyici iş gücünün endüstrinin ve açık kaynak topluluğunun içinden gelmesi gerektiğini vurguluyor. Model mimarisini ve ortaya çıkan riskleri anlayan kişilerden oluşan kurul, modelleri gerçek bir uzmanlıkla değerlendirebilir.

Çerçeve aynı zamanda merkezi olmayan bir güvenlik yaklaşımına da olanak tanıyor. Standartlar Kurulu, ayrıntılı risk değerlendirmeleri için uzmanlaşmış yapay zeka güvenliği gruplarıyla sözleşme yapabilir. Organizasyon alanın hızlı ivmelenmesine uyum sağlayacağı için, yeni ve daha ciddi riskler ortaya çıktıkça denetim dinamik bir şekilde "kademe kademe artırılabilir". Bu, düzenlemeyi bir darboğaz olmaktan çıkarıp sorumlu inovasyonun kolaylaştırıcısı haline getiriyor.

Temel Çıkarımlar

  • Hibrit Düzenleme Modeli: Hassabis, sınır modellerinin piyasaya sürülmesini denetlemek için FINRA model alınarak oluşturulmuş, endüstri tarafından finanse edilen ve hükümet tarafından desteklenen bağımsız bir kurul öneriyor.
  • Kademeli Uygulama: Plan, gönüllü 30 günlük yayın öncesi incelemelerle başlıyor ve ABD pazarı için zorunlu uyumluluğa geçiyor.
  • Teknik Titizlik: Kurul, mevcut hükümet liderliğindeki incelemelerde görülen "uzmanlık açığını" kapatmak için endüstri uzmanlarından ve açık kaynak temsilcilerinden yararlanacak.