એર કેનેડાને $812.02 CAD ચૂકવવાનો આદેશ આપવામાં આવ્યો હતો, કારણ કે એક ટ્રિબ્યુનલે એરલાઇનને એવા ચેટબોટ માટે જવાબદાર ઠેરવી હતી જેણે એવા રિફંડની ખાતરી આપી હતી જે ક્યારેય અસ્તિત્વમાં જ નહોતું.

વિવાદ કેવી રીતે વણાયો

2022 માં જેક મોફાટને અંતિમ સંસ્કાર માટે છેલ્લી ઘડીએ ફ્લાઇટની જરૂર હતી. તેણે એરલાઇનના ઓનલાઇન ચેટબોટને શોક સવલત (bereavement fares) વિશે પૂછ્યું. બોટે જવાબ આપ્યો કે તે પૂરેપૂરી કિંમતનું ટિકિટ ખરીદી શકે છે અને પછી રિફંડ માટે વિનંતી કરી શકે છે. તે જવાબ પર વિશ્વાસ રાખીને, મોફાટે $1,630.36 CAD ચૂકવ્યા. જ્યારે તેણે વચન આપ્યા મુજબના રિફંડ માટે પૂછ્યું, ત્યારે એર કેનેડાએ વિનંતી નકારી કાઢી.

મોફાટ આ બાબતને ટ્રિબ્યુનલ લઈ ગયો. નિર્ણાયકોએ કહ્યું કે એરલાઇને બેદરકાર રીતે ખોટી રજૂઆત (negligent misrepresentation) કરી હતી – ચેટબોટનું નિવેદન એ એક ખોટું વચન હતું જેણે ખરીદી કરવા માટે પ્રેરેલ હતી. તેમણે એર કેનેડાના એ દાવાને નકારી કાઢ્યો કે સોફ્ટવેર એજન્ટ કરારનો પક્ષકાર બની શકતો નથી, અને નોંધ્યું કે બોટ કંપનીની જાહેર વેબસાઇટ પર છે અને તેથી એરલાઇન વતી કાર્ય કરે છે. ટ્રિબ્યુનલે એરલાઇનને મોફાટને $812.02 CAD પરત કરવાનો આદેશ આપ્યો.

આ કેસ શા માટે મહત્વપૂર્ણ છે

AI ની ભૂલો અંગેનો મોટાભાગનો જાહેર વિરોધ સ્પષ્ટ નિષ્ફળતાઓ—ડેટા લોસ, બ્રોકન કોડ અથવા સ્પષ્ટપણે પક્ષપાતી આઉટપુટ—પર કેન્દ્રિત હોય છે. આ નિર્ણય એક સૂક્ષ્મ જોખમને પ્રકાશમાં લાવે છે: નીતિ વિગતો બનાવતી વખતે આત્મવિશ્વાસપૂર્ણ લાગતું AI અમલીકરણ કરી શકાય તેવી જવાબદારીઓ ઊભી કરી શકે છે. બોટે કંઈપણ "ડિલીટ" કર્યું નથી; તેણે ફક્ત એક સ્પષ્ટ, બિનશરતી જવાબ આપ્યો હતો જેને એક સામાન્ય ગ્રાહક એરલાઇનનું સત્તાવાર વલણ માનશે.

આ ચુકાદો એક કાનૂની દાખલો (precedent) સ્થાપિત કરે છે કે AI દ્વારા જનરેટ કરાયેલા નિવેદનો "સોફ્ટવેર માત્ર એક સાધન છે" એવા બચાવ દ્વારા સુરક્ષિત નથી. જો વર્ચ્યુઅલ આસિસ્ટન્ટ એવી માહિતી આપે જેના પર ગ્રાહક ખરીદી કરવા માટે આધાર રાખે છે, તો તે માહિતીને કરારની શરત તરીકે ગણવામાં આવી શકે છે. જે કંપનીઓ કડક નિયંત્રણો વિના ચેટબોટ્સનો ઉપયોગ કરે છે તેઓ સમાન જવાબદારીનું જોખમ ઉઠાવે છે.

ભૂલનું ટેકનિકલ મૂળ

આ ભૂલ retrieval-augmented generation (RAG) પાઇપલાઇનમાંથી ઉદ્ભવી હતી. સિસ્ટમે સાચો પોલિસી દસ્તાવેજ શોધી કાઢ્યો હતો પરંતુ ખોટું વાક્ય ખેંચી લીધું અને તેને તથ્ય તરીકે રજૂ કર્યું. ગિબરીશ (gibberish) અથવા અપમાનજનક ભાષાને ફિલ્ટર કરતા ગાર્ડરેલ્સ ઘણીવાર સારી રીતે લખાયેલા પરંતુ અચોક્કસ અંશોને ચૂકી જાય છે. આ કિસ્સામાં, બોટની પ્રવાહિતા—તેની અનિશ્ચિતતાનો અભાવ અથવા "મને ખાતરી નથી"—એ ખોટા વચનને સત્તાવારતાનો અહેસાસ આપ્યો.

એરલાઇન્સ અને અન્ય કંપનીઓ હવે શું કરી શકે છે

  • કોઈપણ નાણાકીય અથવા હક સંબંધિત શબ્દાવલિને હાર્ડ-કોડ કરો. રિફંડ, ડિસ્કાઉન્ટ અથવા ફી વિશેના નિવેદનો માટે નિશ્ચિત ટેમ્પલેટ્સનો ઉપયોગ કરો.
  • ચેટબોટને ફ્રન્ટલાઇન કર્મચારી તરીકે ગણો. કાયદાની નજરમાં તે કરારો પર "સહી" કરી શકે છે તેમ માની લો અને તેના આઉટપુટને માનવ એજન્ટ જેવી જ સમીક્ષા પ્રક્રિયાને આધીન કરો.
  • સર્ચ (શોધ) ને જનરેશન (ઉત્પાદન) થી અલગ કરો. જ્યારે કાર્ય પોલિસી ટેક્સ્ટ શોધવાનું હોય, ત્યારે પેરાફ્રેઝ કરેલા જવાબને બદલે લિંક અથવા અવતરણમાં આપેલ અંશ આપો.

આ પગલાંથી વાતચીત ઓછી સંવાદાત્મક લાગી શકે છે, પરંતુ તે એવા પ્રકારની આત્મવિશ્વાસપૂર્ણ ખોટી માહિતીને અટકાવે છે જેના કારણે એર કેનેડાએ કોર્ટના આદેશ મુજબ ચૂકવણી કરવી પડી હતી.

વિરોધી દલીલ: શું જવાબદારી ન્યાયી છે?

એર કેનેડાએ દલીલ કરી હતી કે કોડના ટુકડામાં કાનૂની વ્યક્તિત્વનો અભાવ છે અને તેને કરાર દ્વારા બાધિત કરી શકાતો નથી. ટ્રિબ્યુનલનો અસ્વીકાર એ સિદ્ધાંત પર આધારિત છે કે કંપની ચેટબોટને સંપર્કના સત્તાવાર બિંદુ તરીકે રજૂ કરે છે. ટીકાકારો ચિંતિત છે કે AI સુધી જવાબદારીનો વિસ્તાર કરવાથી નવીનતા રૂંધાઈ શકે છે, જે કંપનીઓને એવા સેફ્ટી નેટ્સ બનાવવાની ફરજ પાડે છે જે વપરાશકર્તાના અનુભવને ઘટાડે છે. ગ્રાહકોનું રક્ષણ કરવા અને AI ની ચપળતા જાળવી રાખવા વચ્ચેનું સંતુલન ભવિષ્યના કેસોમાં ચર્ચાનો વિષય બનશે.

આગળ શું જોવું

  • પછીના કાનૂની વિવાદો. જો એર કેનેડા અપીલ કરે છે, તો ઉચ્ચ અદાલતો AI-કરાર જવાબદારીના વ્યાપને વધુ સ્પષ્ટ કરી શકે છે.
  • નિયમનકારી માર્ગદર્શન. ગ્રાહક સુરક્ષા એજન્સીઓ AI દ્વારા જનરેટ કરાયેલા ડિસ્ક્લોઝર પર નિયમો બહાર પાડી શકે છે, ખાસ કરીને ફાઇનાન્સ, ટ્રાવેલ અને હેલ્થ સેક્ટરમાં.
  • ઉદ્યોગના ધોરણો. ટેક ગ્રુપ્સ હાલના સુરક્ષા અને ગોપનીયતા માર્ગદર્શિકાઓની જેમ "કોન્ટ્રાક્ટ-સેફ" AI પ્રતિસાદો માટે શ્રેષ્ઠ-પદ્ધતિ ફ્રેમવર્ક વિકસાવી શકે છે.

બોધપાઠ સ્પષ્ટ છે: એક AI ચેટબોટ જે કિંમત, રિફંડ અથવા હક વિશે પ્રશ્નોના જવાબ આપી શકે છે તે કાયદાની નજરમાં વ્યવસાયનું પ્રતિનિધિત્વ કરે છે. જે કંપનીઓ તેને સાદા સર્ચ બોક્સ તરીકે ગણે છે તેઓ એવા વચનો માટે ચૂકવણી કરવાનું જોખમ ઉઠાવે છે જે તેમના પોલિસીમાં ક્યારેય આપવાનો ઈરાદો નહોતો.