Air Canada зобов'язали виплатити 812,02 канадських доларів після того, як трибунал визнав авіакомпанію відповідальною за дії чат-бота, який пообіцяв повернення коштів, якого насправді не існувало.

Як розвивався спір

У 2022 році Джейку Моффатту знадобився квиток на останній момент для перельоту на похорон. Він запитав онлайн-чат-бота авіакомпанії про тарифи у зв'язку зі смертю родича. Бот відповів, що він може купити квиток за повну вартість, а згодом подати запит на повернення коштів. Поклавшись на цю відповідь, Моффатт сплатив 1630,36 канадських доларів. Коли він попросив обіцяне повернення коштів, Air Canada відхилила запит.

Моффатт звернувся зі своєю скаргою до трибуналу. Судді постановили, що авіакомпанія допустила недбалу введення в оману — заява чат-бота була неправдивою обіцянкою, яка спонукала до здійснення покупки. Вони відхилили твердження Air Canada про те, що програмний агент не може бути стороною договору, зазначивши, що бот розміщений на публічному вебсайті компанії і, отже, діє від імені авіакомпанії. Трибунал зобов'язав авіакомпанію відшкодувати Моффатту 812,02 канадських доларів.

Чому це важливо

Більшість суспільного обурення помилками ШІ зосереджена на очевидних збоях — втраті даних, зламаному коді або явно упереджених результатах. Це рішення підсвічує тоншу небезпеку: ШІ, який звучить впевнено, вигадуючи деталі політики компанії, може створювати юридично обов'язкові зобов'язання. Бот нічого не «видаляв»; він просто надав чітку, однозначну відповідь, яку розсудливий клієнт сприйняв би як офіційну позицію авіакомпанії.

Це рішення створює юридичний прецедент, згідно з яким заяви, згенеровані ШІ, не захищені аргументом «програмне забезпечення — це лише інструмент». Якщо віртуальний помічник надає інформацію, на яку споживач покладається під час здійснення покупки, ця інформація може розглядатися як умова договору. Компанії, які впроваджують чат-ботів без суворого контролю, ризикують понести подібну відповідальність.

Технічна причина помилки

Помилка виникла через конвеєр генерації з доповненим пошуком (RAG). Система знайшла правильний документ із правилами, але витягла не те речення і представила його як факт. Засоби захисту (guardrails), які відфільтровують нісенітницю або образливу мову, часто пропускають добре написані, але неточні уривки. У цьому випадку впевненість бота — відсутність вагань чи фраз на кшталт «я не впевнений» — надала неправдивій обіцянці вигляду авторитетності.

Що авіакомпанії та інші фірми можуть зробити зараз

  • Жорстко кодуйте будь-які формулювання щодо фінансів або прав. Використовуйте фіксовані шаблони для заяв про повернення коштів, знижки або збори.
  • Ставтеся до чат-бота як до працівника передової. Припускайте, що з точки зору закону він може «підписувати» контракти, і піддавайте його відповіді тому ж процесу перевірки, що й дії живого агента.
  • Розділяйте пошук і генерацію. Якщо завдання полягає в пошуку тексту правил, надавайте посилання або процитований уривок замість перефразованої відповіді.

Ці кроки можуть зробити взаємодію менш схожою на розмову, але вони зупиняють саме такий вид впевненої дезінформації, яка коштувала Air Canada виплати за рішенням суду.

Контраргумент: чи є така відповідальність справедливою?

Air Canada стверджувала, що програмний код не має правосуб'єктності та не може бути зв'язаний договором. Відмова трибуналу ґрунтується на принципі, що компанія представляє чат-бота як офіційну точку контакту. Критики побоюються, що поширення відповідальності на ШІ може придушити інновації, змушуючи фірми створювати надмірні системи безпеки, які погіршують досвід користувача. Баланс між захистом споживачів і збереженням гнучкості ШІ, ймовірно, буде предметом дискусій у майбутніх справах.

На що звернути увагу далі

  • Подальші судові процеси. Якщо Air Canada подасть апеляцію, суди вищих інстанцій можуть уточнити межі відповідальності ШІ за контрактами.
  • Регуляторні настанови. Органи із захисту прав споживачів можуть видати правила щодо розкриття інформації, згенерованої ШІ, особливо у фінансовому, туристичному та медичному секторах.
  • Галузеві стандарти. Технологічні групи можуть розробити структури найкращих практик для «безпечних для контрактів» відповідей ШІ, подібні до існуючих настанов із безпеки та конфіденційності.

Висновок очевидний: чат-бот із ШІ, який може відповідати на запитання про ціну, повернення коштів або права, з точки зору закону є представником бізнесу. Компанії, які ставляться до нього як до простої панелі пошуку, ризикують виплачувати гроші за обіцянками, які їхні правила ніколи не передбачали.