Mahakama Iamua Chatbot ya AI Inaweza Kuwajibisha Mashirika ya Ndege – Air Canada Yapata Dhima ya Kisheria

Air Canada iliamriwa kulipa $812.02 CAD baada ya baraza la kusikiliza kesi kubaini kuwa shirika hilo la ndege lina dhima kwa sababu ya chatbot iliyoahidi kurejeshewa pesa ambayo haikuwepo.

Jinsi mzozo ulivyojitokeza

Mnamo mwaka 2022, Jake Moffatt alihitaji tiketi ya safari ya dakika za mwisho kwa ajili ya mazishi. Alimuuliza chatbot ya shirika hilo la ndege kuhusu bei za nauli kwa ajili ya msiba. Bot hiyo ilimjibu kuwa angeweza kununua tiketi ya bei kamili na baadaye kuomba kurejeshewa pesa. Akitegemea jibu hilo, Moffatt alilipa $1,630.36 CAD. Alipoomba kurejeshewa pesa hiyo aliyoahidiwa, Air Canada ilikataa ombi lake.

Moffatt alipeleka suala hilo kwenye baraza la kusikiliza kesi. Waamuzi walisema kuwa shirika hilo lilijihusisha na uongo wa kutojali (negligent misrepresentation) – kauli ya chatbot ilikuwa ahadi ya uongo iliyomshawishi anunue tiketi. Walikataa dai la Air Canada kwamba wakala wa programu (software agent) hawezi kuwa upande wa mkataba, wakibainisha kuwa bot hiyo ipo kwenye tovuti ya umma ya kampuni na hivyo inafanya kazi kwa niaba ya shirika hilo. Baraza liliamuru shirika hilo kumrudishia Moffatt $812.02 CAD.

Kwa nini kesi hii ni muhimu

Malalamiko mengi ya umma kuhusu makosa ya AI yanajikita kwenye kushindwa kwa wazi—kupotea kwa data, kodi iliyoharibika, au matokeo yenye upendeleo uliokithiri. Uamuzi huu unaangazia hatari ya ndani zaidi: AI inayozungumza kwa kujiamini huku ikibuni maelezo ya sera inaweza kuunda wajibu wa kisheria unaoweza kusimamiwa. Bot hiyo haikufuta ("delete") kitu chochote; ilitoa tu jibu la wazi na lisilo na masharti ambalo mteja mwenye busara angechukulia kama msimamo rasmi wa shirika la ndege.

Uamuzi huo unaweka kielelezo cha kisheria kwamba kauli zinazozalishwa na AI haziwezi kujikinga kwa kutumia utetezi wa kwamba "programu ni chombo tu". Ikiwa msaidizi wa kidijitali (virtual assistant) atatoa taarifa ambayo mlaji anaitegemea ili kufanya ununuzi, taarifa hiyo inaweza kuchukuliwa kama kipengele cha mkataba. Makampuni yanayotumia chatbot bila udhibiti mkali yanahatarisha kuingia katika dhima kama hiyo.

Chanzo cha kiufundi cha kosa hilo

Kosa hilo lilitokana na mfumo wa retrieval-augmented generation (RAG) pipeline. Mfumo huo ulipata hati sahihi ya sera lakini ukachukua sentensi isiyo sahihi na kuwasilisha kama ukweli. Mifumo ya ulinzi (guardrails) inayochuja maneno yasiyoeleweka au lugha ya kashfa mara nyingi hukosa vipande vya maandishi vilivyoandikwa vizuri lakini ambavyo si sahihi. Katika kesi hii, ufasaha wa bot hiyo—ukosefu wake wa kusita au kusema "sina uhakika"—ulifanya ahadi hiyo ya uongo ionekane kama ni ya mamlaka.

Hatua ambazo mashirika ya ndege na makampuni mengine yanaweza kuchukua sasa

• Weka maneno ya kifedha au haki katika mfumo wa kudumu (hard-code). Tumia kiolezo (templates) maalum kwa ajili ya kauli kuhusu kurejeshewa pesa, punguzo, au ada.
• Chukulia chatbot kama mfanyakazi wa mstari wa mbele. Chukulia kuwa inaweza "saini" mikataba mbele ya sheria na ifuate mchakato wa uhakiki sawa na ule wa wakala binadamu.
• Tenganisha utafutaji na uzalishaji wa maelezo. Wakati kazi ni kutafuta maandishi ya sera, toa kiungo (link) au kipande cha maandishi kilichonukuliwa badala ya jibu lililofanyiwa ufupisho (paraphrased).

Hatua hizi zinaweza kufanya mazungumzo yasihisi kama mazungumzo ya kawaida, lakini zinazuia aina ya upotoshaji wa kijiamini uliomfanya Air Canada ilipe malipo kwa amri ya mahakama.

Hoja ya upande wa pili: Je, dhima hiyo ni ya haki?

Air Canada ilijenga hoja kwamba programu (code) haina utu wa kisheria na haiwezi kufungwa na mkataba. Kukataliwa kwa hoja hiyo na baraza kulizingatia kanuni kwamba kampuni inaiwasilisha chatbot kama njia rasmi ya mawasiliano. Wakosoaji wanahofia kuwa kuongeza dhima kwa AI kunaweza kukwamisha uvumbuzi, na kulazimisha makampuni kutengeneza mifumo ya usalama iliyozidi kiasi ambayo itapunguza ubora wa uzoefu wa mtumiaji. Uwiano kati ya kulinda walaji na kuhifadhi wepesi wa AI utajadiliwa katika kesi za baadaye.

Nini cha kufuatilia baadaye

• Mashauri ya kufuata. Ikiwa Air Canada itakata rufaa, mahakama za juu zinaweza kuboresha upeo wa dhima ya mikataba inayotokana na AI.
• Mwongozo wa kisheria. Mamlaka za ulinzi wa walaji zinaweza kutoa kanuni kuhusu maelezo yanayozalishwa na AI, hasa katika sekta za fedha, safari, na afya.
• Viwango vya tasnia. Vikundi vya kiteknolojia vinaweza kuunda mifumo ya mbinu bora kwa ajili ya majibu ya AI yaliyo "salama kwa mkataba", sawa na miongozo iliyopo ya usalama na faragha.

Somo ni wazi: chatbot ya AI inayoweza kujibu maswali kuhusu bei, kurejeshewa pesa, au haki, mbele ya sheria, ni mwakilishi wa biashara. Makampuni yanayochukulia kama kisanduku cha kutafutia (search box) kinachojali tu yanahatarisha kulipa ahadi ambazo sera zao hazikukusudia kuzitoa.