ایئر کینیڈا کو 812.02 CAD ادا کرنے کا حکم دیا گیا ہے کیونکہ ایک ٹربیونل نے ایئر لائن کو اس چیٹ بوٹ کا ذمہ دار پایا جس نے ایسے ریفنڈ کا وعدہ کیا تھا جو کبھی موجود ہی نہیں تھا۔

تنازعہ کیسے ہوا

2022 میں جیک موفات کو ایک جنازے کے لیے آخری لمحے میں پرواز کی ضرورت تھی۔ اس نے ایئر لائن کے آن لائن چیٹ بوٹ سے سوگ کے کرایوں (bereavement fares) کے بارے میں پوچھا۔ بوٹ نے جواب دیا کہ وہ مکمل قیمت کا ٹکٹ خرید سکتا ہے اور بعد میں ریفنڈ کی درخواست کر سکتا ہے۔ اس جواب پر بھروسہ کرتے ہوئے، موفات نے 1,630.36 CAD ادا کیے۔ جب اس نے وعدہ کردہ ریفنڈ مانگا، تو ایئر کینیڈا نے درخواست مسترد کر دی۔

موفات نے معاملہ ٹربیونل میں لے گیا۔ فیصلہ سازوں نے کہا کہ ایئر لائن نے غفلت آمیز غلط بیانی (negligent misrepresentation) کی ہے – چیٹ بوٹ کا بیان ایک جھوٹا وعدہ تھا جس نے خریداری پر اکسایا۔ انہوں نے ایئر کینیڈا کے اس دعوے کو مسترد کر دیا کہ ایک سافٹ ویئر ایجنٹ معاہدے کا فریق نہیں ہو سکتا، اور یہ نوٹ کیا کہ بوٹ کمپنی کی عوامی ویب سائٹ پر موجود ہے اور اس لیے ایئر لائن کی جانب سے کام کرتا ہے۔ ٹربیونل نے ایئر لائن کو حکم دیا کہ وہ موفات کو 812.02 CAD واپس کرے۔

یہ کیس کیوں اہم ہے

AI کی غلطیوں پر زیادہ تر عوامی احتجاج واضح ناکامیوں پر مرکوز ہوتا ہے—جیسے ڈیٹا کا ضائع ہونا، خراب کوڈ، یا کھلی طور پر متعصبانہ نتائج۔ یہ فیصلہ ایک باریک خطرے کی نشاندہی کرتا ہے: ایک AI جو پالیسی کی تفصیلات خود سے بناتے ہوئے پر اعتماد لگتا ہے، وہ قابلِ نفاذ ذمہ داریاں پیدا کر سکتا ہے۔ بوٹ نے کچھ بھی "ڈیلیٹ" نہیں کیا تھا؛ اس نے محض ایک واضح اور غیر مشروط جواب دیا تھا جسے ایک سمجھدار گاہک ایئر لائن کے سرکاری موقف کے طور پر تسلیم کرتا۔

یہ فیصلہ ایک قانونی نظیر قائم کرتا ہے کہ AI سے تیار کردہ بیانات کو "سافٹ ویئر محض ایک آلہ ہے" کے دفاع کے ذریعے تحفظ نہیں مل سکتا۔ اگر کوئی ورچوئل اسسٹنٹ ایسی معلومات فراہم کرتا ہے جس پر صارف خریداری کے لیے بھروسہ کرتا ہے، تو اس معلومات کو معاہدے کی شرط کے طور پر تسلیم کیا جا سکتا ہے۔ وہ کمپنیاں جو سخت کنٹرول کے بغیر چیٹ بوٹس استعمال کرتی ہیں، انہیں اسی طرح کی قانونی ذمہ داری کا سامنا کرنا پڑ سکتا ہے۔

غلطی کی تکنیکی وجہ

یہ غلطی retrieval-augmented generation (RAG) پائپ لائن سے پیدا ہوئی۔ سسٹم نے درست پالیسی دستاویز تو ڈھونڈ لی لیکن غلط جملہ نکال لیا اور اسے حقیقت کے طور پر پیش کیا۔ وہ گارڈ ریلز (guardrails) جو بے معنی یا توہین آمیز زبان کو فلٹر کرتے ہیں، اکثر اچھی طرح سے لکھے گئے لیکن غلط اقتباسات کو نظر انداز کر دیتے ہیں۔ اس معاملے میں، بوٹ کی روانی—اس کی ہچکچاہٹ کی کمی یا "مجھے یقین نہیں ہے" جیسے جملوں کا نہ ہونا—نے اس جھوٹے وعدے کو ایک اتھارٹی کا رنگ دے دیا۔

ایئر لائنز اور دیگر فرمز اب کیا کر سکتی ہیں

  • کسی بھی مالیاتی یا استحقاق سے متعلق الفاظ کو ہارڈ کوڈ کریں۔ ریفنڈ، ڈسکاؤنٹ، یا فیس کے بارے میں بیانات کے لیے مقررہ ٹیمپلیٹس استعمال کریں۔
  • چیٹ بوٹ کو فرنٹ لائن ملازم کے طور پر سمجھیں۔ یہ فرض کریں کہ قانون کی نظر میں یہ معاہدوں پر "دستخط" کر سکتا ہے اور اس کے نتائج کو انسانی ایجنٹ کے معیار کے مطابق ہی ریویو کے عمل سے گزاریں۔
  • تلاش (search) کو تخلیق (generation) سے الگ کریں۔ جب کام پالیسی متن تلاش کرنا ہو، تو پیرافریزڈ جواب دینے کے بجائے لنک یا اقتباس فراہم کریں۔

یہ اقدامات بات چیت کو شاید کم قدرتی بنا دیں، لیکن یہ اس قسم کی پر اعتماد غلط معلومات کو روکتے ہیں جس کی وجہ سے ایئر کینیڈا کو عدالت کے حکم پر ادائیگی کرنی پڑی۔

مخالف دلیل: کیا یہ ذمہ داری منصفانہ ہے؟

ایئر کینیڈا نے دلیل دی کہ کوڈ کے ٹکڑے میں قانونی حیثیت (legal personhood) نہیں ہوتی اور اسے معاہدے کے ذریعے پابند نہیں کیا جا سکتا۔ ٹربیونل کا انکار اس اصول پر مبنی ہے کہ کمپنی چیٹ بوٹ کو رابطے کے ایک سرکاری ذریعے کے طور پر پیش کرتی ہے۔ ناقدین کو خدشہ ہے کہ AI تک ذمہ داری کو وسعت دینے سے جدت پسندی رک سکتی ہے، جس سے کمپنیاں ایسے حفاظتی نظام بنانے پر مجبور ہوں گی جو صارف کے تجربے کو متاثر کریں۔ صارفین کے تحفظ اور AI کی چستی کے درمیان توازن پر مستقبل کے کیسز میں بحث ہونے کا امکان ہے۔

آگے کیا نظر آئے گا

  • مستقبل کی قانونی کارروائی۔ اگر ایئر کینیڈا اپیل کرتا ہے، تو اعلیٰ عدالتیں AI-معاہدہ ذمہ داری کے دائرہ کار کو مزید واضح کر سکتی ہیں۔
  • ریگولیٹری رہنمائی۔ صارفین کے تحفظ کے ادارے AI سے تیار کردہ معلومات کے حوالے سے قواعد جاری کر سکتے ہیں، خاص طور پر فنانس، ٹریول، اور ہیلتھ سیکٹرز میں۔
  • صنعتی معیارات۔ ٹیک گروپس "معاہدہ محفوظ" (contract-safe) AI جوابات کے لیے بہترین طریقوں کے فریم ورک تیار کر سکتے ہیں، جو موجودہ سیکیورٹی اور پرائیویسی گائیڈ لائنز کے مشابہ ہوں۔

خلاصہ واضح ہے: ایک AI چیٹ بوٹ جو قیمت، ریفنڈ یا استحقاق کے بارے میں سوالات کے جواب دے سکتا ہے، قانون کی نظر میں کاروبار کا نمائندہ ہے۔ وہ کمپنیاں جو اسے محض ایک سرچ باکس کی طرح سمجھتی ہیں، انہیں ان وعدوں کی ادائیگی کا خطرہ رہتا ہے جن کا ان کی پالیسیوں میں کوئی ارادہ نہیں تھا۔