Air Canada обязали выплатить 812,02 канадских долларов после того, как трибунал признал авиакомпанию ответственной за действия чат-бота, который пообещал возврат средств, которого на самом деле не существовало.

Как развивался спор

В 2022 году Джейку Моффату потребовался билет на рейс в последний момент из-за похорон. Он спросил у онлайн-чат-бота авиакомпании о тарифах в связи со смертью близкого человека. Бот ответил, что он может купить билет по полной стоимости, а затем запросить возврат средств. Полагаясь на этот ответ, Моффатт заплатил 1630,36 канадских долларов. Когда он запросил обещанный возврат, Air Canada отклонила его требование.

Моффатт передал дело в трибунал. Судьи постановили, что авиакомпания допустила халатное введение в заблуждение: заявление чат-бота было ложным обещанием, которое побудило к совершению покупки. Они отклонили аргумент Air Canada о том, что программный агент не может быть стороной договора, отметив, что бот размещен на официальном сайте компании и, следовательно, действует от имени авиакомпании. Трибунал обязал авиакомпанию выплатить Моффатту 812,02 канадских доллара.

Почему это дело имеет значение

Большинство общественных протестов против ошибок ИИ сосредоточено на очевидных сбоях — потере данных, поломках в коде или явно предвзятых результатах. Это решение подсвечивает более тонкую опасность: ИИ, который звучит уверенно, придумывая детали правил компании, может создавать юридически обязывающие обязательства. Бот ничего не «удалял»; он просто дал четкий, недвусмысленный ответ, который разумный клиент воспринял бы как официальную позицию авиакомпании.

Данное решение создает юридический прецедент, согласно которому заявления, сгенерированные ИИ, не защищены аргументом «программное обеспечение — это всего лишь инструмент». Если виртуальный помощник предоставляет информацию, на которую потребитель полагается при совершении покупки, эта информация может рассматриваться как условие договора. Компании, внедряющие чат-ботов без строгого контроля, рискуют столкнуться с аналогичной ответственностью.

Техническая причина ошибки

Ошибка возникла из-за использования конвейера генерации с дополненной выборкой (RAG). Система нашла нужный документ с правилами, но выдернула не то предложение и представила его как факт. Защитные механизмы (guardrails), которые отфильтровывают бессмыслицу или оскорбительную лексику, часто пропускают хорошо сформулированные, но неточные фрагменты. В данном случае беглость речи бота — отсутствие колебаний или фраз вроде «я не уверен» — придала ложному обещанию вид авторитетности.

Что авиакомпании и другие фирмы могут сделать сейчас

  • Жестко прописывайте любые формулировки, касающиеся финансов или прав. Используйте фиксированные шаблоны для заявлений о возвратах, скидках или сборах.
  • Относитесь к чат-боту как к сотруднику первой линии. Исходите из того, что с точки зрения закона он может «подписывать» контракты, и подвергайте его ответы тем же процессам проверки, что и ответы живого агента.
  • Разделяйте поиск и генерацию. Если задача состоит в поиске текста правил, возвращайте ссылку или цитату, а не перефразированный ответ.

Эти шаги могут сделать общение менее «разговорным», но они предотвратят распространение уверенной дезинформации, которая стоила Air Canada судебных выплат.

Контраргумент: Справедлива ли такая ответственность?

Air Canada утверждала, что программный код не обладает правосубъектностью и не может быть связан договором. Отказ трибунала основывается на принципе, согласно которому компания представляет чат-бота как официальное средство связи. Критики опасаются, что распространение ответственности на ИИ может затормозить инновации, вынуждая фирмы создавать избыточные системы защиты, которые ухудшают пользовательский опыт. Баланс между защитой потребителей и сохранением гибкости ИИ, вероятно, станет предметом дискуссий в будущих делах.

За чем следить дальше

  • Последующие судебные разбирательства. Если Air Canada подаст апелляцию, суды вышестоящих инстанций могут уточнить сферу ответственности ИИ по контрактам.
  • Регуляторные рекомендации. Агентства по защите прав потребителей могут издать правила относительно раскрытия информации, созданной ИИ, особенно в финансовом, туристическом и медицинском секторах.
  • Отраслевые стандарты. Технологические группы могут разработать рекомендации по «безопасным для контрактов» ответам ИИ, аналогичные существующим руководствам по безопасности и конфиденциальности.

Вывод очевиден: чат-бот с ИИ, который может отвечать на вопросы о цене, возврате или правах, с точки зрения закона является представителем бизнеса. Компании, которые относятся к нему как к простому поисковому окну, рискуют выплачивать деньги за обещания, которые их правила никогда не предполагали давать.