Demis Hassabis, Riskleri Yönetmek İçin ABD Önderliğinde Küresel Bir Yapay Zeka Gözetleme Kurulu Oluşturulması Çağrısında Bulundu
Google DeepMind CEO'su Demis Hassabis, tehlikeli sınır (frontier) yapay zeka modellerinin yayılımını durdurabilecek güçte uluslararası bir düzenleyici kurumun oluşturulmasını savunuyor. Yapay Genel Zeka (AGI) arayışı hızlanırken Hassabis, felaketle sonuçlanabilecek durumları önlemek için standartlaştırılmış küresel bir çerçevenin şart olduğunu ileri sürüyor.
Finansal Denetime Dayalı Bir Düzenleme Modeli
Hassabis, "A Framework for Frontier AI and the Dawning of a New Age" (Sınır Yapay Zeka İçin Bir Çerçeve ve Yeni Bir Çağın Şafağı) başlıklı son önerisinde, Finansal Endüstri Düzenleme Kurumu'na (FINRA) benzer bir düzenleyici yapı öneriyor. Önerilen bu gözetleme kurulu sadece bir danışma kurulu olmayacak; piyasaya sürülmeden önce sınır modellerini değerlendirme konusunda açık yetkiye sahip bağımsız uzmanlardan ve açık kaynak topluluğu temsilcilerinden oluşacak.
En önemlisi, kuruluş, belirli bir modelin yayılımının çok riskli olduğuna karar verilirse, sektör genelinde bir "yavaşlatma" koordine etme gücüne sahip olacak. Bu mekanizma, şirketlerin rakiplerinden daha hızlı AGI'ye ulaşma çabasıyla güvenlik protokollerinden ödün verdiği bir "en dibe doğru yarış" (race to the bottom) durumunu önlemeyi amaçlıyor.
Amerika Birleşik Devletleri Neden Öncülük Etmeli?
Hassabis, Amerika Birleşik Devletleri'nin bu küresel girişime öncülük etmek için eşsiz bir konumda olduğunu savunuyor. Ülkenin yapay zeka sektöründeki baskın ekonomik ve teknik konumu göz önüne alındığında, ABD, dünyanın geri kalanının takip edebileceği standartları belirlemek için gereken nüfuza sahip.
Bu önerinin aciliyeti, Hassabis'in AGI'nin "muhtemelen sadece birkaç kısa yıl uzağımızda" olduğuna dair inancından kaynaklanıyor. Mevcut dönemi, insanlığı temelden yeniden tanımlayacak dönüştürücü bir süreç olan "tekilliğin etekleri" (foothills of the singularity) olarak görüyor. Bu geçişi yönetmek için özel inovasyon ile kamu güvenliği arasındaki boşluğu kapatmak adına çalışıyor.
Siyasi ve Sektörel Mutabakat Oluşturmak
Resmi düzenlemeye doğru atılan adımlar perde arkasında şimdiden ivme kazanıyor. Raporlar, Hassabis'in Avrupa yetkilileri, büyük yapay zeka laboratuvarları ve Trump yönetimi de dahil olmak üzere çeşitli paydaşları bilgilendirmek için aylar harcadığını gösteriyor. Axios'a göre, gelecek olan ABD yönetiminden gelen ilk geri bildirimler "çok olumlu" oldu; bu da daha yapılandırılmış bir federal denetime doğru potansiyel bir kaymaya işaret ediyor.
Yönetişim için yapılan bu hamle, Anthropic kurucu ortağı Jack Clark ve eski Google CEO'su Eric Schmidt dahil olmak üzere diğer sektör devlerinin yapay zekanın ekonomik ve varoluşsal etkilerine ilişkin son uyarılarıyla örtüşüyor. 2024 Nobel Ödülü sahibi Hassabis, yapay zekanın biyosilah üretiminde yardımcı olma potansiyeli gibi belirli yüksek riskli konular hakkında da açık görüşlerini dile getiriyor.
Yapay Zeka Ekosistemi İçin Daha Geniş Etkiler
Gerçekleşmesi halinde bu gözetleme kurulu, teknoloji politikasında onlarca yılın en önemli değişimi olacaktır. Geliştiriciler ve kurucular için bu, "hızlı hareket et ve bir şeyleri boz" (move fast and break things) döneminden, yayılım öncesi denetimlerin kural haline geldiği son derece düzenlenmiş bir döneme geçiş anlamına geliyor. Bazıları bunun inovasyonu engelleyebileceğinden korksa da Hassabis, tutarlı bir çerçevenin, AGI odaklı bir dünyaya geçişin güvenli ve istikrarlı olmasını sağlamanın tek yolu olduğunu savunuyor.
Önemli Çıkarımlar
- Düzenleyici Güç: Önerilen gözetleme kurulu, sınır modellerini değerlendirme ve risklerin çok yüksek olması durumunda sektör genelinde yavaşlatmalar zorunlu kılma yetkisine sahip olacak.
- ABD Liderliği: Hassabis, küresel yapay zeka ekonomisindeki ve teknik altyapıdaki merkezi rolü nedeniyle ABD'nin bu girişime öncülük etmesi gerektiğini savunuyor.
- AGI'nin Aciliyeti: Öneri, Hassabis'in "insanlık için yeni bir çağ" olarak gördüğü ve acil denetim gerektiren AGI'ye doğru yaşanan hızlı ilerlemeden kaynaklanıyor.