एका ट्रिब्युनलने एअर कॅनाडाला अशा चॅटबॉटसाठी जबाबदार धरल्यानंतर, $812.02 CAD भरण्याचे आदेश दिले आहेत, ज्याने अशा रिफंडचे (परताव्याचे) आश्वासन दिले होते जे अस्तित्वातच नव्हते.

हा वाद कसा उफाळून आला

२०२२ मध्ये जेक मॉफॅट (Jake Moffatt) यांना अंत्यविधीसाठी शेवटच्या क्षणी विमानाची गरज होती. त्यांनी एअरलाईन्सच्या ऑनलाइन चॅटबॉटला 'बेरेव्हमेंट फेअर्स' (bereavement fares - शोकसांत्वन भाडे) बद्दल विचारले. चॅटबॉटने उत्तर दिले की, ते पूर्ण किंमतीचे तिकीट खरेदी करू शकतात आणि नंतर रिफंडसाठी विनंती करू शकतात. या उत्तरावर विश्वास ठेवून, मॉफॅट यांनी $1,630.36 CAD भरले. जेव्हा त्यांनी आश्वासित रिफंडची मागणी केली, तेव्हा एअर कॅनाडाने ती विनंती फेटाळून लावली.

मॉफॅट यांनी हा विषय ट्रिब्युनलकडे नेला. निर्णय घेणाऱ्यांनी (adjudicators) म्हटले की, एअरलाईन्सने 'नेग्लिजंट मिसरिप्रेझेंटेशन' (negligent misrepresentation - निष्काळजीपणे चुकीची माहिती देणे) केले आहे – चॅटबॉटचे विधान हे एक खोटे आश्वासन होते ज्याने खरेदी करण्यास प्रवृत्त केले. सॉफ्टवेअर एजंट हा कराराचा पक्षकार (contracting party) असू शकत नाही, असा एअर कॅनाडाचा दावा त्यांनी फेटाळून लावला. चॅटबॉट कंपनीच्या सार्वजनिक वेबसाइटवर उपलब्ध आहे आणि त्यामुळे तो एअरलाईन्सच्या वतीने काम करतो, असे त्यांनी नमूद केले. ट्रिब्युनलने एअरलाईन्सला मॉफॅट यांना $812.02 CAD परत करण्याचे आदेश दिले.

हा खटला महत्त्वाचा का आहे

AI मधील त्रुटींवर होणारा बहुतेक सार्वजनिक आक्रोश हा स्पष्ट अपयशांवर केंद्रित असतो—जसे की डेटा गमावणे, बिघडलेला कोड किंवा स्पष्टपणे पूर्वग्रहदूषित आउटपुट. हा निर्णय एका सूक्ष्म धोक्यावर प्रकाश टाकतो: धोरणाचे तपशील स्वतःहून तयार करताना आत्मविश्वासाने बोलणारे AI कायदेशीररित्या पाळावे लागणारे बंधन (enforceable obligations) निर्माण करू शकते. चॅटबॉटने काहीही "डिलीट" केले नाही; त्याने फक्त एक स्पष्ट आणि बिनशर्त उत्तर दिले, ज्याला एक सामान्य ग्राहक एअरलाईन्सची अधिकृत भूमिका मानू शकतो.

हा निकाल एक कायदेशीर पूर्वोद्रेख (precedent) प्रस्थापित करतो की, "सॉफ्टवेअर हे केवळ एक साधन आहे" या बचावाचा वापर करून AI-निर्मित विधानांना संरक्षण देता येणार नाही. जर एखाद्या व्हर्च्युअल असिस्टंटने अशी माहिती दिली ज्यावर ग्राहक खरेदी करण्यासाठी अवलंबून असतो, तर त्या माहितीला करारातील अटी (contractual term) म्हणून मानले जाऊ शकते. कडक नियंत्रणाशिवाय चॅटबॉट्स तैनात करणाऱ्या कंपन्यांना अशाच प्रकारच्या दायित्वाचा (liability) धोका असतो.

चुकीचे तांत्रिक मूळ

ही चूक 'रिट्रिव्हल-ऑगमेंटेड जनरेशन' (RAG) पाइपलाइनमुळे झाली. सिस्टीमने योग्य धोरणाचे दस्तऐवज शोधले, परंतु चुकीचे वाक्य उचलले आणि ते तथ्य म्हणून सादर केले. अर्थहीन किंवा आक्षेपार्ह भाषा गाळण्यासाठी वापरले जाणारे 'गार्डरेल्स' (guardrails) अनेकदा सुस्पष्ट पण चुकीचे उतारे ओळखण्यात अपयशी ठरतात. या प्रकरणात, चॅटबॉटची अस्खलितता—त्याची द्विधा मनस्थिती नसणे किंवा "मला खात्री नाही" असे न म्हणणे—यामुळे त्या खोट्या आश्वासनाला अधिकृततेचा भास निर्माण झाला.

एअरलाईन्स आणि इतर कंपन्या आता काय करू शकतात

  • कोणतेही आर्थिक किंवा हक्कविषयक शब्द 'हार्ड-कोड' करा. रिफंड, सवलती किंवा शुल्काबाबतच्या विधानांसाठी निश्चित टेम्पलेट्स वापरा.
  • चॅटबॉटला फ्रंटलाईन कर्मचारी समजा. कायद्याच्या दृष्टीने तो करार "स्वाक्षरी" करू शकतो असे गृहीत धरा आणि त्याच्या आउटपुटची तपासणी मानवी एजंटप्रमाणेच करा.
  • शोध (search) आणि निर्मिती (generation) वेगळे करा. जेव्हा धोरणाचा मजकूर शोधण्याचे काम असेल, तेव्हा शब्दांतरित (paraphrased) उत्तराऐवजी लिंक किंवा उद्धृत केलेला उतारा द्या.

या पावलांमुळे संवाद कमी संवादात्मक वाटू शकतो, परंतु यामुळे चुकीची माहिती देण्याच्या अशा प्रकारच्या आत्मविश्वासावर नियंत्रण येईल, ज्यामुळे एअर कॅ mengadakanला कोर्टाच्या आदेशानुसार पैसे मोजावे लागले.

प्रतिवाद: हे दायित्व (liability) न्याय्य आहे का?

एअर कॅनाडाने असा युक्तिवाद केला की कोडला कायदेशीर अस्तित्व (legal personhood) नसते आणि त्याला कराराने बांधता येत नाही. ट्रिब्युनलने हा दावा फेटाळला कारण कंपनी चॅटबॉटला अधिकृत संपर्क बिंदू (official point of contact) म्हणून सादर करते. टीकाकारांना अशी भीती वाटते की AI वर दायित्व वाढवल्यामुळे नाविन्यपूर्ण संशोधनावर (innovation) मर्यादा येऊ शकते, ज्यामुळे कंपन्यांना वापरकर्त्याचा अनुभव कमी करणारे सुरक्षा कवच तयार करण्यासाठी जास्त खर्च करावा लागेल. ग्राहकांचे संरक्षण आणि AI ची चपळता टिकवून ठेवणे यातील संतुलन भविष्यातील प्रकरणांमध्ये चर्चेचा विषय ठरेल.

पुढे काय पाहावे

  • पुढील खटले. जर एअर कॅनाडाने अपील केले, तर उच्च न्यायालये AI-करार दायित्वाचा व्याप्ती अधिक स्पष्ट करू शकतात.
  • नियामक मार्गदर्शन. ग्राहक संरक्षण संस्था AI-निर्मित खुलाशांबाबत नियम जारी करू शकतात, विशेषतः वित्त, प्रवास आणि आरोग्य क्षेत्रांमध्ये.
  • उद्योग मानके. तंत्रज्ञान गट सध्याच्या सुरक्षा आणि गोपनीयता मार्गदर्शक तत्त्वांप्रमाणेच "करार-सुरक्षित" (contract-safe) AI प्रतिसादांसाठी सर्वोत्तम पद्धतींचे आराखडे विकसित करू शकतात.

निष्कर्ष स्पष्ट आहे: जो AI चॅटबॉट किंमत, रिफंड किंवा हक्कांबद्दल प्रश्नांची उत्तरे देऊ शकतो, तो कायद्याच्या दृष्टीने व्यवसायाचा प्रतिनिधी आहे. ज्या कंपन्या चॅटबॉटला केवळ एक साधी सर्च बॉक्स मानतात, त्यांना त्यांच्या धोरणांमध्ये नसलेल्या आश्वासनांसाठी पैसे मोजावे लागण्याचा धोका असतो.