Her kod satırı, üretime gönderdiğinizde bir algoritmaya nasıl davranacağını öğretir. Bu davranış dışarıya doğru dalgalanır. Kimin kredisinin onaylanacağını, hangi tıbbi taramanın öncelik alacağını ve bir kullanıcının akışını hangi içeriğin dolduracağını belirler. Bir geliştirici olarak sadece özellikler birleştirmiyorsunuz. Bu sistemlerin insan hayatıyla nasıl etkileşime gireceğini şekillendiriyorsunuz.

Bu sorumluluk, işlevsel bir yazılım sunmanın çok daha ötesindedir. Teknoloji inşa etmek yeterli değildir. Onu sorumlu bir şekilde inşa etmelisiniz. Etik algoritmalar, sadece kıyaslama testlerinde (benchmarks) iyi performans göstermekten fazlasını yapar. Zararı aktif olarak önlerler ve zamanla onları kullanan insanların güvenini kazanırlar. Bu güven kırılgandır. Bir eğitim hattındaki (training pipeline) dikkatsiz bir seçim veya belirsiz bir gizlilik ayarı bu güveni sarsabilir. Kodunuz toplumu şekillendirir. Seçimlerinizin bir değeri olmalı.

İnşa Ettiklerinizin Ağırlığı

Geliştiriciler yapay zekanın geleceğini inşa eder. Bu sistemlerin nasıl davranacağına siz karar verirsiniz. Hata ayıklama (debugging) moduna daldığınızda, kayıp eğrilerine (loss curves) ve gecikme metriklerine (latency metrics) bakarken bu gücü unutmak kolaydır. Ancak eğittiğiniz modeller birer altyapı haline gelir. İşe alım kararlarını, kredi puanlamasını, suç riski değerlendirmelerini ve eğitimsel yerleştirmeleri etkilerler.

Bunu yapı mühendisliği gibi düşünün. Bir köprü inşaatçısı sadece malzemelerin mevcut olduğunu ve matematiğin doğru göründüğünü söyleyemez. Tasarımın gerçek dünya gerilimi altında dayanıp dayanmayacağını, üzerinden geçen insanların güvende olup olmayacağını sormak zorundadır. Aynı standart burada da geçerlidir. Kontrollü bir deneyde mükemmel çalışan bir algoritma, karmaşık insan gerçekliğiyle karşılaştığında hala gerçek zararlara yol açabilir. Bu zararı önlemek işin bir parçasıdır. Sonradan akla gelen bir şey değil. Hukuk ekibinin bir sorunu değil. Zanaatın özüdür.

Veri Gizliliği ve Güvenliği

Modele ne beslediğinizle başlayın. Veri gizliliği ve güvenliği, ürün piyasaya çıktıktan sonra işaretlenecek uyumluluk kutucukları değildir. Bunlar, en başta verdiğiniz mimari kararlardır.

Veri toplama sırasında zor sorular sorun. Modeli geliştirmek için kullanıcıların ham konuşmalarını gerçekten saklamanız gerekiyor mu, yoksa tanımlayıcıları temizleyip toplulaştırılmış kalıpları kullanabilir misiniz? Hassas girdileri ne kadar süreyle tutuyorsunuz? Silme taleplerini yerine getirecek bir yöntem oluşturdunuz mu, yoksa veriler kimsenin izlemediği bir depoda (bucket) öylece duruyor mu?

Yapay zeka sistemleri için güvenlik, kendine özgü riskler taşır. Prompt injection saldırıları, bir modeli güvenlik önlemlerini görmezden gelmeye ikna edebilir. Eğer model eğitim sırasında overfit yaptıysa, eğitim verisi çıkarma saldırıları ağırlıklardan (weights) özel bilgileri çekebilir. Bir saldırgan gibi düşünmeniz gerekir. Verileri hem beklemedeyken (at rest) hem de iletim halindeyken (in transit) şifreleyin. Eğitim veri setlerine erişimi kısıtlayın. Üretim modellerini kimlerin sorgulayabileceğini denetleyin ve ne sorduklarını günlüğe kaydedin (log). Bunlar sıradan görevlerdir ancak kullanıcı güveni ile bir veri ihlali haberi arasındaki bariyeri oluştururlar.

Eğitim Setlerinde Yanlılığın Önlenmesi

Modeller onlara gösterdiğiniz kalıpları öğrenir. Eğer eğitim verileri tarihsel eşitsizliği yansıtıyorsa, model bu eşitsizliği korkutucu bir hız ve ölçekle otomatize edecektir. Eğitim setlerinde yanlılığın önlenmesi, ilk veri çekme işleminden son dağıtıma kadar teyakkuz gerektirir.

Bu, toplam doğruluğun ötesine bakmak anlamına gelir. Bir tıbbi teşhis modeli, koyu tenli ciltlerin görüntülerinde sürekli hata yaparken genel olarak iyi puan alabilir. Eğer eğitim verileri onlarca yıllık homojen terfi geçmişlerinden geliyorsa, bir işe alım aracı eski yanlılıkları tekrarlayabilir. Demografik temsiliyeti denetlemelisiniz. Sadece tüm popülasyonu değil, alt gruplar genelindeki hata oranlarını da test etmelisiniz. Öznel etiketlerin tek bir bakış açısından gelmemesi için çeşitli etiketleme (annotation) ekipleriyle çalışın.

Yanlılığı önlemek aynı zamanda bağlamla ilgilidir. Kuzey Amerika kaynaklı İngilizce metinlerle eğitilen bir model, Mumbai veya Lagos'tan gelen deyimlerle zorlanacaktır. Bu mimaride bir kusur değildir; veri setinde bir kusurdur. Kaynakları genişleterek, yeterince temsil edilmeyen verileri ağırlıklandırarak ve yayınlamadan önce adversarial testler yaparak bunu düzeltin. Adaleti; takip ettiğiniz, önceliklendirdiğiniz (triage) ve çözdüğünüz bir hata (bug) olarak ele alın.

Karar Verme Sürecinde Şeffaflık

İnsanlar bir makineyle konuştuklarını bilmeyi hak ederler ve o makine kendileri hakkında bir karar verdiğinde bir açıklama almayı hak ederler. Karar verme sürecinde şeffaflık, kullanıcılara arka planda neler olup bittiğini söyleyecek kadar saygı göstermek demektir.

Geliştiriciler için bu, pratik ürün seçimlerine dönüşür. Eğer bir yapay zeka bir kredi başvurusunu reddederse, başvuru sahibi genel bir ret mesajı değil, bu reddin arkasındaki temel faktörleri görmelidir. Eğer bir içerik denetleme sistemi bir gönderiyi kaldırırsa, kullanıcı hangi kuralın tetiklendiğini anlamalıdır. Planlanan kullanım durumlarını, bilinen sınırlamaları ve farklı popülasyonlardaki performansı açıklayan model kartları yayınlayın. Denetçilerin yüksek riskli kararların nasıl alındığını izlemesine olanak tanıyan günlükleme sistemleri kurun.

Şeffaflık, ham olasılık ağırlıklarını bir ekrana yığmak değildir. Dürüstçe iletişim kuran arayüzler tasarlamakla ilgilidir. Kullanıcılar bir yanıtın yapay zeka tarafından oluşturulup oluşturulmadığını tahmin etmek zorunda kalmamalıdır. Sistem bir hata yaptığında, bir kara kutu ile savaşmak zorunda kalmamalıdırlar.

Model Çıktıları İçin Hesap Verebilirlik

Sorgulanamayan bir modele güvenilemez. Model çıktıları için hesap verebilirlik, sistem hata yaptığında birinin, bir yerlerde, sorumluluk alabilmesi demektir.

Önemli kararlar için insan denetimi mekanizmaları kurun. Bir algoritma bir işlemi dolandırıcılık olarak işaretleyebilir, ancak bir kişi işlemi dondurmadan önce bunu gözden geçirmelidir. Bir yapay zeka hukuki metin taslağı oluşturabilir, ancak yetkin bir profesyonelin bunu onaylaması gerekir. Kullanıcıların hataları bildirebilmesi ve sizin düzeltme oranlarını ölçebilmeniz için geri bildirim döngüleri oluşturun. ...için net eskalasyon yolları belirleyin