אייר קנדה נצטווה לשלם 812.02 דולר קנדי לאחר שבית דין קבע כי חברת התעופה אחראית לצ'אטבוט שהבטיח החזר שלא היה קיים מעולם.
כיצד התגלע הסכסוך
בשנת 2022, ג'ייק מופאט נזקק לטיסה של הרגע האחרון לצורך לוויה. הוא שאל את הצ'אטבוט המקוון של חברת התעופה לגבי תעריפי אבל. הבוט השיב כי הוא יכול לרכוש כרטיס במחיר מלא ולאחר מכן לבקש החזר. בהסתמך על תשובה זו, מופאט שילם 1,630.36 דולר קנדי. כאשר ביקש את ההחזר שהובטח, אייר קנדה דחתה את בקשתו.
מופאט הביא את הנושא בפני בית דין. השופטים קבעו כי חברת התעופה ביצעה מצג שווא מרשלנות – הצהרת הצ'אטבוט הייתה הבטחה כוזבת שהובילה לרכישה. הם דחו את טענתה של אייר קנדה כי סוכן תוכנה אינו יכול להיות צד בחוזה, וציינו כי הבוט פועל באתר האינטרנט הציבורי של החברה ולכן פועל בשמה של חברת התעופה. בית הדין ציווה על חברת התעופה לפצות את מופאט בסך 812.02 דולר קנדי.
מדוע המקרה הזה חשוב
רוב הזעזוע הציבורי סביב טעויות של בינה מלאכותית מתמקד בכשלים ברורים — אובדן נתונים, קוד שבור או תוצרים מוטים באופן גלוי. החלטה זו שופטת אור על סכנה מעודנת יותר: בינה מלאכותית שנשמעת בטוחה בעצמה בזמן שהיא ממציאה פרטי מדיניות עלולה ליצור התחייבויות אכיפות. הבוט לא "מחק" דבר; הוא פשוט נתן תשובה ברורה וחד-משמעית שלקוח סביר היה מתייחס אליה כעמדה הרשמית של חברת התעופה.
הפסיקה קובעת תקדים משפטי לפיו הצהרות שנוצרו על ידי בינה מלאכותית אינן מוגנות על ידי טענת ההגנה "תוכנה היא רק כלי". אם עוזר וירטואלי מספק מידע שצרכן מסתמך עליו כדי לבצע רכישה, מידע זה עשוי להיחשב כתנאי חוזי. חברות המפעילות צ'אטבוטים ללא בקרות קפדניות מסתכנות באחריות דומה.
השורש הטכני של הטעות
הטעות נבעה מצינור עיבוד של "יצירה מוגברת על ידי שליפה" (RAG). המערכת מצאה את מסמך המדיניות הנכון אך שלפה את המשפט הלא נכון והציגה אותו כעובדה. מנגנוני הגנה (Guardrails) המסננים שטויות או שפה פוגענית מפספסים לעיתים קרובות קטעים כתובים היטב אך לא מדויקים. במקרה זה, השטף של הבוט — חוסר ההיסוס שלו או היעדר אמירות כמו "אני לא בטוח" — העניק להבטחה הכוזבת נופך של סמכותיות.
מה חברות תעופה וחברות אחרות יכולות לעשות כעת
- קידוד קשיח (Hard-code) של כל ניסוח פיננסי או זכאות. השתמשו בתבניות קבועות עבור הצהרות על החזרים, הנחות או עמלות.
- התייחסו לצ'אטבוט כאל עובד קו ראשון. הניחו שהוא יכול "לחתום" על חוזים בעיני החוק והכפיפו את הפלטים שלו לאותו תהליך בדיקה כמו סוכן אנושי.
- הפרידו בין חיפוש לבין יצירה. כאשר המשימה היא לאתר טקסט מדיניות, החזירו קישור או קטע מצוטט במקום תשובה מנוסחת מחדש.
צעדים אלו עשויים לגרום לאינטראקציה להרגיש פחות שיחתית, אך הם עוצרים את סוג המידע הכוזב והבטוח שגרם לאייר קנדה לשלם פיצוי בצו בית משפט.
טיעון נגד: האם האחריות הוגנת?
אייר קנדה טענה כי לקוד אין אישיות משפטית והוא אינו יכול להיות מחויב בחוזה. דחיית בית הדין מבוססת על העיקרון שהחברה מציגה את הצ'אטבוט כנקודת קשר רשמית. מבקרים חוששים כי הרחבת האחריות לבינה מלאכותית עלולה לחנוק חדשנות, ולהכריח חברות לתכנן יתר על המידה רשתות ביטחון שמפחיתות את חווית המשתמש. האיזון בין הגנה על הצרכנים לבין שמירה על הגמישות של הבינה המלאכותית צפוי להיות נושא לדיון במקרים עתידיים.
מה כדאי לעקוב אחריו בהמשך
- המשך התדיינות משפטית. אם אייר קנדה תערער על ההחלטה, בתי משפט גבוהים יותר עשויים לדייק את היקף האחריות החוזית של בינה מלאכותית.
- הנחיות רגולטוריות. סוכנויות להגנת הצרכן עשויות להוציא כללים לגבי גילויים שנוצרו על ידי בינה מלאכותית, במיוחד במגזרי הפיננסים, הנסיעות והבריאות.
- תקני תעשייה. קבוצות טכנולוגיות עשויות לפתח מסגרות עבודה של שיטות עבודה מומלצות לתגובות בינה מלאכותית "בטוחות לחוזה", בדומה להנחיות אבטחה ופרטיות קיימות.
השורה התחתונה ברורה: צ'אטבוט מבוסס בינה מלאכותית שיכול לענות על שאלות לגבי מחיר, החזר או זכאות הוא, בעיני החוק, נציג של העסק. חברות המתייחסות אליו כאל תיבת חיפוש פשוטה מסתכנות בתשלום עבור הבטחות שמדיניות החברה מעולם לא התכוונה לתת.