صدر أمر بدفع 812.02 دولار كندي لشركة Air Canada بعد أن وجدت لجنة قضائية أن شركة الطيران مسؤولة عن روبوت دردشة (chatbot) وعد باسترداد مبلغ لم يكن موجوداً في الأصل.
كيف تطور النزاع
في عام 2022، احتاج جيك موفات (Jake Moffatt) إلى رحلة طيران في اللحظة الأخيرة لحضور جنازة. سأل روبوت الدردشة عبر الإنترنت التابع لشركة الطيران عن أسعار تذاكر التعازي. أجاب الروبوت بأنه يمكنه شراء تذكرة بالسعر الكامل ثم طلب استرداد المبلغ لاحقاً. وبناءً على تلك الإجابة، دفع موفات 1,630.36 دولار كندي. وعندما طلب استرداد المبلغ الموعود، رفضت Air Canada طلبه.
رفع موفات الأمر إلى لجنة قضائية. وقال المحكمون إن شركة الطيران تورطت في "تضليل ناتج عن الإهمال" (negligent misrepresentation) – حيث كان تصريح روبوت الدردشة وعداً كاذباً أدى إلى إتمام عملية الشراء. ورفضت اللجنة ادعاء Air Canada بأن الوكيل البرمجي لا يمكن أن يكون طرفاً في عقد، مشيرة إلى أن الروبوت موجود على الموقع الإلكتروني العام للشركة، وبالتالي فهو يعمل نيابة عن شركة الطيران. وأمرت اللجنة شركة الطيران بتعويض موفات بمبلغ 812.02 دولار كندي.
لماذا تكتسب هذه القضية أهمية
يركز معظم الاستياء العام من أخطاء الذكاء الاصطناعي على الإخفاقات الواضحة — مثل فقدان البيانات، أو الأكواد البرمجية المعطلة، أو المخرجات المتحيزة بشكل صارخ. لكن هذا القرار يسلط الضوء على خطر أكثر دقة: وهو أن الذكاء الاصطناعي الذي يبدو واثقاً أثناء اختلاق تفاصيل السياسات يمكن أن ينشئ التزامات قانونية قابلة للتنفيذ. لم يقم الروبوت بـ "حذف" أي شيء؛ بل قدم ببساطة إجابة واضحة وغير مشروطة قد يتعامل معها أي عميل عقلاني على أنها الموقف الرسمي لشركة الطيران.
يضع هذا الحكم سابقة قانونية مفادها أن التصريحات الناتجة عن الذكاء الاصطناعي لا تتم حمايتها بدفاع "البرمجيات مجرد أداة". فإذا قدم مساعد افتراضي معلومات اعتمد عليها المستهلك لإتمام عملية شراء، فقد تُعامل هذه المعلومات كبند تعاقدي. وتواجه الشركات التي تنشر روبوتات الدردشة دون ضوابط صارمة مخاطر مسؤولية مماثلة.
الجذر التقني للخطأ
نبع الخطأ من مسار "التوليد المعزز بالاسترجاع" (RAG). فقد عثر النظام على وثيقة السياسة الصحيحة، لكنه استخرج الجملة الخاطئة وقدمها كحقيقة. وغالباً ما تخفق "الحواجز الوقائية" (Guardrails) التي تصفّي الكلام غير المفهوم أو اللغة المسيئة في اكتشاف المقتطفات المكتوبة بشكل جيد ولكنها غير دقيقة. وفي هذه الحالة، منحت طلاقة الروبوت — وعدم تردده أو قوله "لست متأكداً" — الوعد الكاذب صبغة من السلطة والموثوقية.
ما يمكن لشركات الطيران والشركات الأخرى فعله الآن
- تثبيت أي صياغة مالية أو متعلقة بالاستحقاقات برمجياً. استخدم قوالب ثابتة للتصريحات المتعلقة باسترداد الأموال، أو الخصومات، أو الرسوم.
- التعامل مع روبوت الدردشة كموظف في الخطوط الأمامية. افترض أنه يمكنه "توقيع" العقود في نظر القانون، وأخضع مخرجاته لنفس عملية المراجعة التي يخضع لها الوكيل البشري.
- الفصل بين البحث والتوليد. عندما تكون المهمة هي تحديد نص السياسة، قم بإرجاع رابط أو مقتطف مقتبس بدلاً من تقديم إجابة تمت إعادة صياغتها.
قد تجعل هذه الخطوات التفاعل يبدو أقل حوارية، لكنها تمنع نوع المعلومات المضللة الواثقة التي كلفت Air Canada دفع تعويضات بأمر قضائي.
الحجة المضادة: هل المسؤولية عادلة؟
جادلت Air Canada بأن الكود البرمجي يفتقر إلى الشخصية القانونية ولا يمكن إلزام بـعقد. ويرتكز رفض اللجنة على مبدأ أن الشركة تقدم روبوت الدردشة كنقطة اتصال رسمية. ويخشى النقاد من أن توسيع نطاق المسؤولية ليشمل الذكاء الاصطناعي قد يعيق الابتكار، مما يجبر الشركات على المبالغة في تصميم شبكات أمان تقلل من تجربة المستخدم. ومن المرجح أن يظل التوازن بين حماية المستهلكين والحفاظ على مرونة الذكاء الاصطناعي محل نقاش في قضايا مستقبلية.
ما يجب مراقبته لاحقاً
- التقاضي اللاحق. إذا استأنفت Air Canada الحكم، فقد تقوم المحاكم العليا بتحديد نطاق المسؤولية التعاقدية للذكاء الاصطناعي.
- التوجيهات التنظيمية. قد تصدر وكالات حماية المستهلك قواعد بشأن الإفصاحات الناتجة عن الذكاء الاصطناعي، خاصة في قطاعات التمويل والسفر والصحة.
- معايير الصناعة. يمكن للمجموعات التقنية تطوير أطر عمل لأفضل الممارسات للاستجابات "الآمنة تعاقدياً" للذكاء الاصطناعي، على غرار المبادئ التوجيهية الحالية للأمن والخصوصية.
الخلاصة واضحة: روبوت الدردشة الذي يعمل بالذكاء الاصطناعي ويمكنه الإجابة على أسئلة حول السعر أو استرداد الأموال أو الاستحقاقات هو، في نظر القانون، ممثل للشركة. والشركات التي تتعامل معه كمجرد صندوق بحث تخاطر بدفع تعويضات مقابل وعود لم تكن سياساتها تنوي تقديمها أبداً.