エア・カナダ：責任を思い出させる決定、専門家が指摘

TORONTO –

チャットボットの発言に対するエア・カナダの責任に関する決定は、企業が人工知能に依存する際にいかに注意する必要があるかを思い出させるものだと専門家らは言う。

水曜日に出されたBC州民事解決法廷の決定は、チャットボットが航空会社の忌引運賃に関する誤解を招く情報を提供した際、エア・カナダが責任を否定しようとしたことを示した。

「事実上、エア・カナダはチャットボットが独自の行動に責任を負う別個の法人であることを示唆している」と法廷メンバーのクリストファー・リバーズ氏は判決文で述べた。

「これは注目に値する提出物だ」と彼は言った。

ジェイク・モファットさんは、チャットボットがほのめかしたように航空券の全額を支払った後、忌引運賃を安くしてもらいたいと異議を申し立てたが、航空会社は旅行に行く前に申請する必要があるとしてその主張を拒否した。

リバース氏は決定の中で、エア・カナダがウェブサイト上の情報に責任を負っているのは明らかであるべきであり、今回の場合、エア・カナダはチャットボットが正確であることを保証するために相応の注意を払っていなかったと述べた。

エア・カナダは声明で、判決には従うと述べ、この問題は解決したと考えているため追加情報はない、と述べた。

法廷での決定は、先例を生むものではなく、約650ドルの係争があり、かなり賭け金が低いものだったが、これは、企業がテクノロジーへの依存を強めるにつれて巻き込まれる可能性があることを示している、と弁護士のアイラ・パルギ氏は述べた。情報とAI法の専門知識を備えています。

「組織や企業がその道を歩もうと決めたら、それを正しくしなければなりません」と彼女は言う。

AI を活用したシステムがますます複雑な質問に答えられるようになるにつれ、企業はリスクを冒す価値があるかどうかを判断する必要があります。

「その領域があまりにも厄介で複雑すぎる場合、または十分なルールに基づいていない場合、または個人の裁量に依存しすぎる場合は、ボットを遠ざける必要があるかもしれません」とパルギ氏は述べた。

AIによって生じたいくつかのギャップについては法律がまだ追いついていない状態であり、保留中の連邦法がこのギャップを埋めようとしているが、多くの場合、既存の法律で問題をカバーできると同氏は述べた。

「彼らは過失による虚偽表示という古き良き不法行為法に依存し、ある種非常にありきたりな推論に基づいて正しい結果を導き出したのです。」

企業が自社のチャットボットに対して責任を負わないという主張は目新しいものだと、ガウリング WLG のパートナーであるブレント アーノルド氏は述べた。

「そのような議論を見たのは初めてだ」と彼は言った。

企業がチャットボットを提供する際に責任を回避したい場合、企業が提供する情報に対して責任を負わないことが非常に目立つような文言を多用する必要があり、その場合、消費者にとってチャットボットの使用が疑わしいものになるとアーノルド氏は述べた。

「それは、チャットボットが『歩道で見つけたこれを食べてみませんか？』と言うのと同じくらい良いことです。」 なぜそんなことをするのでしょうか？」

同氏によると、企業は今後の法案の一環として、何がAIを活用しているのかについてより多くの開示を開始する必要があり、また、影響の大きいシステムを一般公開する前にさらにテストする必要があるという。

アーノルド氏は、慣行に関する規則が進化するにつれ、企業は民事責任と規制責任の両方に注意する必要があると述べた。

米国では昨年、消費者金融保護局がチャットボットの問題に関するガイダンスを発行し、銀行がチャットボットを導入すると義務に違反し、顧客の信頼を損ない、消費者に損害を与えるリスクがあると警告した。

規制当局は「個人の経済生活が危険にさらされている場合、間違った行為がもたらす結果は深刻になる可能性がある」と述べた。

CFPBは、時間の無駄、不正確な情報、人間のカスタマーサービス担当者に連絡する手段がない行き詰まりやイライラ感など、多くの人がよく知っているであろう数多くのマイナスの結果について警告し、チャットボットの回答が「破滅のループ」を生み出す可能性があると警告した。

エア・カナダの例は単純だったが、AI システムはまだ初期段階にあるため、潜在的なエラーに対して企業がどの程度の責任を負うのかについては、まだ十分に検証されていないとアーノルド氏は述べた。

「多額の金がかかっている同様の状況で上級裁判所がどう判断するか興味深いだろう」と同氏は語った。

航空乗客の権利消費者擁護団体のガボール・ルカックス会長は、エア・カナダの判決は旅行者にとって正義であると述べ、BC州民事解決法廷は乗客が公正な審問を受けることができる場であることを示した。

同氏はまた、エア・カナダが、反対の証拠を一切提出せず、あらゆる申し立てを否定する定型的な対応を行ったとして法廷から呼び出されたと指摘した。

カナダ通信社によるこのレポートは、2024 年 2 月 15 日に初めて発行されました。