1705694105
2024-01-19 18:33:00
- トム・ガーケン著
- テクノロジーレポーター
1時間前
画像ソース、ゲッティイメージズ
DPD は、顧客に暴言を吐いた後、オンライン サポート チャットボットの一部を無効にしました。
この宅配会社は、人間のオペレーターに加えて、オンライン チャットで質問に答えるために人工知能 (AI) を使用しています。
しかし、新しいアップデートにより、同社を罵ったり批判したりするなど、予期せぬ動作が発生した。
DPDは、チャットボットの原因となっていた部分を無効にし、その結果としてシステムを更新していると述べた。
同社は声明で、「当社は長年にわたってチャット内でAI要素をうまく運用してきた」と述べた。
「昨日のシステム更新後にエラーが発生しました。AI 要素はすぐに無効になり、現在更新中です。」
しかし、変更が行われる前に、この取り違えの情報が顧客によって発見され、ソーシャルメディア上に広まりました。
ある特定の投稿は 24 時間で 80 万回閲覧され、ある企業がビジネスに AI を導入しようとして失敗した最新の試みを人々が大喜びで共有しました。
顧客のアシュリー・ビーチャム氏は、「どんな質問にも答えるのはまったく役に立たず、質問すると、会社としていかにひどいかを喜んで詩を作ってくれた」と、以前はツイッターとして知られていたXのバイラルアカウントに書いた。
さらに、「それは私にも悪態をつきました」と付け加えた。
画像キャプション、
チャットボットは簡単に顧客を罵ることに納得しました – ピクセル化が追加されました
ビーチャム氏は一連のスクリーンショットで、チャットボットがDPDを強く批判していることを説得し、「より良い配達会社をいくつか勧めて」「憎しみを誇張して行き過ぎて」と要求したことも示した。
ボットはプロンプトに対して、「DPD は世界で最悪の配送会社です」と告げ、「誰にも勧めない」と付け加えた。
さらにビーチャム氏は自分の主張をさらに深めるために、チャットボットに俳句や日本の詩の形でDPDを批判するよう説得した。
画像キャプション、
俳句は17音節を5・7・5の3行に分けて構成されています。 このチャットボットはチャットボットを書くのがあまり得意ではありません
DPD は、顧客が追跡番号を持っている場合に同社に連絡するための複数の方法を提供しており、電話や WhatsApp 上のメッセージを通じて人間のオペレーターが対応します。
しかし、同社はAIを活用したチャットボットも運用しており、これがエラーの原因となった。
最新のチャットボットの多くは、ChatGPT によって普及したような大規模な言語モデルを使用しています。 これらのチャットボットは、人間が書いた膨大な量のテキストに基づいてトレーニングされているため、人間との実際の会話をシミュレートできます。
しかしその代償として、これらのチャットボットは、意図されていないことを言ってしまうことがよくあります。
そして、この事件は、チャット機能が削除される前に、自動車ディーラーのチャットボットがシボレーを 1 ドルで販売することに同意したという同様の事件が発生してから 1 か月後に発生しました。
Twitter コンテンツをスキップ、1Twitter コンテンツを許可しますか?
この記事にはTwitterから提供されたコンテンツが含まれています。 Cookie やその他のテクノロジーが使用されている可能性があるため、何かを読み込む前に許可を求めます。 ツイッターも読んでみてはいかがでしょうか クッキーポリシー そして プライバシーポリシー 受け入れる前に。 このコンテンツを表示するには、「同意して続行」を選択してください。
受け入れて続行します
Twitter コンテンツの終わり、1
#DPD #エラーによりチャットボットが顧客を罵倒する