Air Canada a été condamnée à verser 812,02 $ CAD après qu'un tribunal a jugé la compagnie aérienne responsable des propos d'un chatbot ayant promis un remboursement qui n'existait pas.

Comment le litige s'est déroulé

En 2022, Jake Moffatt avait besoin d'un vol de dernière minute pour un enterrement. Il a interrogé le chatbot en ligne de la compagnie aérienne au sujet des tarifs de deuil. Le bot a répondu qu'il pouvait acheter un billet au plein tarif et demander un remboursement ultérieurement. Se fiant à cette réponse, M. Moffatt a payé 1 630,36 $ CAD. Lorsqu'il a demandé le remboursement promis, Air Canada a rejeté sa demande.

M. Moffatt a porté l'affaire devant un tribunal. Les arbitres ont déclaré que la compagnie aérienne s'était rendue coupable de déclaration inexacte par négligence — la déclaration du chatbot était une fausse promesse ayant incité à l'achat. Ils ont rejeté l'argument d'Air Canada selon lequel un agent logiciel ne peut pas être une partie contractante, notant que le bot est présent sur le site web public de l'entreprise et agit donc au nom de la compagnie aérienne. Le tribunal a ordonné à la compagnie de rembourser 812,02 $ CAD à M. Moffatt.

Pourquoi cette affaire est importante

La plupart des indignations publiques concernant les erreurs de l'IA se concentrent sur des défaillances évidentes : perte de données, code défectueux ou résultats ouvertement biaisés. Cette décision met en lumière un danger plus subtil : une IA qui semble assurée tout en inventant des détails de politique peut créer des obligations exécutoires. Le bot n'a rien « supprimé » ; il a simplement donné une réponse claire et sans réserve qu'un client raisonnable traiterait comme la position officielle de la compagnie aérienne.

La décision établit un précédent juridique selon lequel les déclarations générées par l'IA ne sont pas protégées par la défense consistant à dire que « le logiciel n'est qu'un outil ». Si un assistant virtuel fournit des informations sur lesquelles un consommateur se fonde pour effectuer un achat, ces informations peuvent être traitées comme une clause contractuelle. Les entreprises qui déploient des chatbots sans contrôles stricts s'exposent à une responsabilité similaire.

La racine technique de l'erreur

L'erreur provenait d'un pipeline de génération augmentée par récupération (RAG). Le système a trouvé le bon document de politique, mais a extrait la mauvaise phrase et l'a présentée comme un fait. Les garde-fous qui filtrent le charabia ou le langage offensant passent souvent à côté d'extraits bien écrits mais inexacts. Dans ce cas, la fluidité du bot — son absence d'hésitation ou de « je ne suis pas sûr » — a donné à la fausse promesse un air d'autorité.

Ce que les compagnies aériennes et autres entreprises peuvent faire dès maintenant

  • Coder en dur tout libellé financier ou relatif aux droits. Utilisez des modèles fixes pour les déclarations concernant les remboursements, les remises ou les frais.
  • Traiter le chatbot comme un employé de première ligne. Partez du principe qu'il peut « signer » des contrats aux yeux de la loi et soumettez ses réponses au même processus de révision que celui d'un agent humain.
  • Séparer la recherche de la génération. Lorsque la tâche consiste à localiser un texte de politique, renvoyez un lien ou un extrait cité plutôt qu'une réponse paraphrasée.

Ces mesures peuvent rendre l'interaction moins conversationnelle, mais elles empêchent le type de désinformation assurée qui a coûté à Air Canada un versement ordonné par le tribunal.

Contre-argument : La responsabilité est-elle équitable ?

Air Canada a soutenu qu'un morceau de code ne possède pas de personnalité juridique et ne peut être lié par un contrat. Le rejet du tribunal repose sur le principe selon lequel l'entreprise présente le chatbot comme un point de contact officiel. Les critiques craignent que l'extension de la responsabilité à l'IA ne freine l'innovation, obligeant les entreprises à concevoir des filets de sécurité excessifs qui nuisent à l'expérience utilisateur. L'équilibre entre la protection des consommateurs et la préservation de l'agilité de l'IA fera probablement l'objet de débats dans de futures affaires.

À surveiller prochainement

  • Litiges ultérieurs. Si Air Canada fait appel, les tribunaux supérieurs pourraient affiner la portée de la responsabilité contractuelle de l'IA.
  • Orientations réglementaires. Les agences de protection des consommateurs pourraient publier des règles sur les divulgations générées par l'IA, en particulier dans les secteurs de la finance, du voyage et de la santé.
  • Normes de l'industrie. Les groupes technologiques pourraient élaborer des cadres de bonnes pratiques pour des réponses d'IA « sûres pour les contrats », similaires aux directives existantes en matière de sécurité et de confidentialité.

La conclusion est claire : un chatbot d'IA capable de répondre à des questions sur les prix, les remboursements ou les droits est, aux yeux de la loi, un représentant de l'entreprise. Les entreprises qui le traitent comme une simple barre de recherche risquent de devoir payer pour des promesses que leurs politiques n'ont jamais eu l'intention de faire.