Air Canada, var olmayan bir iade vaadinde bulunan bir sohbet botundan dolayı havayolu şirketini sorumlu bulan bir hakem heyetinin kararıyla 812,02 CAD ödemeye mahkûm edildi.

Uyuşmazlık nasıl gelişti

2022 yılında Jake Moffatt, bir cenaze töreni için son dakika uçuşuna ihtiyaç duydu. Havayolu şirketinin çevrimiçi sohbet botuna vefat indirimlerini sordu. Bot, tam fiyatlı bir bilet alabileceğini ve daha sonra iade talep edebileceğini yanıtladı. Bu cevaba güvenen Moffatt, 1.630,36 CAD ödedi. Vaat edilen iadeyi istediğinde ise Air Canada talebi reddetti.

Moffatt konuyu bir hakem heyetine taşıdı. Karar vericiler, havayolu şirketinin ihmalkâr yanlış beyanda bulunduğunu; sohbet botunun ifadesinin, satın alma işlemini tetikleyen yanlış bir vaat olduğunu belirtti. Heyet, Air Canada'nın "bir yazılım aracısının sözleşmenin tarafı olamayacağı" yönündeki iddiasını reddederek, botun şirketin halka açık web sitesinde yer aldığını ve bu nedenle havayolu şirketi adına hareket ettiğini kaydetti. Hakem heyeti, havayolu şirketinin Moffatt'a 812,02 CAD geri ödeme yapmasına karar verdi.

Bu dava neden önemli

Yapay zeka hatalarına yönelik kamuoyu tepkilerinin çoğu; veri kaybı, bozuk kod veya açıkça yanlı çıktılar gibi bariz başarısızlıklara odaklanır. Bu karar ise daha ince bir tehlikeye dikkat çekiyor: Politika detaylarını uydururken kendinden emin bir ton kullanan bir yapay zeka, uygulanabilir yükümlülükler yaratabilir. Bot hiçbir şeyi "silmedi"; sadece makul bir müşterinin havayolu şirketinin resmi duruşu olarak kabul edeceği net ve koşulsuz bir yanıt verdi.

Karar, yapay zeka tarafından üretilen beyanların "yazılım sadece bir araçtır" savunmasıyla korunamayacağına dair hukuki bir emsal teşkil ediyor. Eğer bir sanal asistan, bir tüketicinin satın alma yapmak için güvendiği bir bilgi sağlarsa, bu bilgi sözleşme maddesi olarak kabul edilebilir. Sıkı kontroller olmaksızın sohbet botu kullanan şirketler benzer bir sorumluluk riskiyle karşı karşıyadır.

Hatanın teknik kökeni

Hata, bir geri getirme ile zenginleştirilmiş üretim (RAG) iş akışından kaynaklanıyordu. Sistem doğru politika belgesini buldu ancak yanlış cümleyi çekip bunu bir gerçek gibi sundu. Anlamsız ifadeleri veya saldırgan dili filtreleyen güvenlik bariyerleri (guardrails), genellikle iyi yazılmış ancak hatalı alıntıları gözden kaçırır. Bu vakada, botun akıcılığı —tereddüt etmemesi veya "emin değilim" dememesi— yanlış vaade bir otorite havası kattı.

Havayolları ve diğer firmalar şimdi ne yapabilir

  • Her türlü finansal veya hak ediş ifadesini sabitleyin. İadeler, indirimler veya ücretler hakkındaki beyanlar için sabit şablonlar kullanın.
  • Sohbet botuna bir ön hat çalışanı gibi davranın. Hukuk önünde sözleşmeleri "imzalayabileceğini" varsayın ve çıktılarını bir insan temsilcinin geçtiği aynı inceleme sürecine tabi tutun.
  • Aramayı üretimden ayırın. Görev bir politika metnini bulmak olduğunda, başka sözcüklerle ifade edilmiş (paraphrased) bir yanıt yerine bir bağlantı veya alıntılanmış bir kesit sunun.

Bu adımlar etkileşimin daha az sohbetvari hissedilmesine neden olabilir, ancak Air Canada'ya mahkeme kararıyla ödeme yapmasına mal olan türden o kendinden emin yanlış bilgilendirmeyi durdurur.

Karşı görüş: Sorumluluk adil mi?

Air Canada, bir kod parçasının hukuki kişiliğe sahip olmadığını ve sözleşmeyle bağlı olamayacağını savundu. Hakem heyetinin reddi, şirketin sohbet botunu resmi bir iletişim noktası olarak sunması ilkesine dayanıyor. Eleştirmenler, sorumluluğun yapay zekaya genişletilmesinin inovasyonu engelleyebileceğinden ve firmaları kullanıcı deneyimini azaltan aşırı mühendislik ürünü güvenlik ağları kurmaya zorlayabileceğinden endişe ediyor. Tüketicileri korumak ile yapay zekanın çevikliğini korumak arasındaki denge, muhtemelen gelecekteki davalarda tartışılacaktır.

Sırada ne var

  • Takip eden davalar. Air Canada temyiz yoluna giderse, üst mahkemeler yapay zeka sözleşme sorumluluğunun kapsamını netleştirebilir.
  • Düzenleyici rehberlik. Tüketiciyi koruma ajansları, özellikle finans, seyahat ve sağlık sektörlerinde yapay zeka tarafından üretilen açıklamalar hakkında kurallar yayınlayabilir.
  • Sektör standartları. Teknoloji grupları, mevcut güvenlik ve gizlilik yönergelerine benzer şekilde, "sözleşmeye uygun" yapay zeka yanıtları için en iyi uygulama çerçeveleri geliştirebilir.

Çıkarılacak ders açık: Fiyat, iade veya hak ediş hakkındaki soruları yanıtlayabilen bir yapay zeka sohbet botu, hukuki açıdan işletmenin bir temsilcisidir. Ona basit bir arama kutusu gibi davranan şirketler, politikalarının asla yapmayı amaçlamadığı vaatler için ödeme yapma riskiyle karşı karşıyadır.