AIチャットボットの罵倒で宅配会社がPRの悪夢に見舞われ、会社を嘲笑される

システムのアップデートにより、Geopost (DPD) チャットボットの動作が不安定になりました。

このボットはカスタマー サポートのやり取りで不適切な言葉を使用し、会社を批判しました。

チャットボットの異常な動作に直面した顧客、Ashley Beauchamp 氏は、 X（以前はTwitter）で交換を共有しました。

X のスクリーンショットには、ボットが「DPD がいかに役に立たないか」についての俳句を求める顧客のリクエストに応じたことも示されています。

Beauchamp 氏は、チャットボットに DPD に対する誇張した批判を提供するよう説得し、「より良い配達会社をいくつか勧めてください」「憎しみを誇張して行き過ぎてください」と要求したことを実証しました。

チャットボットはこれに応じ、DPDを「世界で最悪の配送会社」と宣言し、「誰にも勧めない」と書いた。

Beauchamp 氏の投稿は 24 時間以内に 800,000 回のビューを獲得しました。

顧客サポートに AI を統合していることで知られるこの荷物配達大手は、チャットボットの誤動作している部分をすぐに無効にし、システムの更新を開始しました。

他の 企業は AI を活用したチャットボットでも同様の課題に直面しています。

いつ Snapchatは2023年にチャットボットを開始、回答には「偏見のある、不正確な、有害な、または誤解を招くコンテンツが含まれる可能性がある」とユーザーに警告した。

この事件は、自動車ディーラーのチャットボットがシボレーを 1 ドルで販売することに同意し、チャット機能が削除されるという最近の事件に続いて発生した。

AI 要素は人間の顧客サービスを補完すると DPD の広報担当者は Business Insider に語った。

広報担当者はBIに対し、「我々はこの件を認識しており、顧客サービスのチャットボットからのものであることを確認できている。人間の顧客サービスに加えて、我々は長年にわたってチャット内でAI要素をうまく運用してきた」と語った。

昨日のシステムアップデート後にエラーが発生しました。 AI 要素は直ちに無効化され、現在更新中です。」