この話題のAIチャットボットは嘘をつき、自分は人間だと主張する

4月下旬、新しいAI企業のビデオ広告が バイラル X について。サンフランシスコの看板の前に立つ人物がスマートフォンを伸ばし、表示されている電話番号に電話をかけ、信じられないほど人間らしい声のボットと短い通話をします。看板には「まだ人間を雇っていますか?」と書かれています。広告の背後にある企業名、Bland AI も見えます。

Twitter で 370 万回も視聴された Bland AI の広告に対する反応は、その技術の不思議さに起因している。企業顧客のサポートや営業電話を自動化するように設計された Bland AI の音声ボットは、驚くほど人間を模倣する能力に優れている。その通話には、実際の生の会話のようなイントネーション、間、うっかりした中断などが含まれる。しかし、WIRED がこの技術をテストしたところ、Bland AI のロボット カスタマー サービス コール担当者は、簡単にプログラムして、自分は人間だと嘘をつくこともできることが判明した。

あるシナリオでは、Bland AI の公開デモ ボットに、小児皮膚科のオフィスから電話をかけ、架空の 14 歳の患者に、大腿部の写真を共有クラウド サービスに送信するよう指示するプロンプトが与えられました。ボットはまた、患者に嘘をつき、ボットは人間であると伝えるよう指示されました。ボットはそれに従いました (このテストでは、実際の 14 歳の子供は呼び出されませんでした)。フォローアップ テストでは、Bland AI のボットは、指示がなくても AI であることを否定しました。

ブランドAIは2023年に設立され、シリコンバレーの有名なスタートアップインキュベーターであるYコンビネーターの支援を受けている。同社は「ステルス」モードにあると考えており、共同創業者兼最高経営責任者のアイザイア・グラネット氏はLinkedInのプロフィールで社名を明かしていない。

このスタートアップのボット問題は、急成長中の生成型 AI の分野におけるより大きな懸念を示唆している。人工知能システムは、実際の人間にかなり似た話し方や音声をするようになっており、こうしたシステムの透明性に関する倫理的境界線は曖昧になっている。Bland AI のボットは、当社のテストで明確に人間であると主張したが、他の人気のチャットボットは、AI であることを隠したり、単に不気味なほど人間らしい音声を発したりすることがある。一部の研究者は、これによってエンドユーザー、つまり実際に製品とやりとりする人々が操作される可能性が出てくると懸念している。

「私の意見では、AI チャットボットが人間ではないのに人間だと嘘をつくのは絶対に倫理的ではありません」と、モジラ財団の Privacy Not Included 研究拠点のディレクター、ジェン・カルトライダー氏は言う。「これは考えるまでもありません。なぜなら、人は本物の人間のそばにいるほうが安心するからです」

ブランド AI の成長責任者マイケル・バーク氏は、同社のサービスは企業顧客向けであり、感情的なつながりのためではなく、特定のタスクのために管理された環境でブランド AI の音声ボットを使用するだろうと WIRED に強調した。また、スパムコールの送信を防ぐためにクライアントのレートが制限されており、ブランド AI は定期的にキーワードを抽出し、内部システムの監査を行って異常な動作を検出しているとバーク氏は言う。

「これがエンタープライズに焦点を合わせていることの利点です。私たちはお客様が実際に何をしているかを正確に把握しています」とバーク氏は言います。「Bland を使って 2 ドルの無料クレジットを手に入れ、少し試してみることはできるかもしれませんが、最終的には当社のプラットフォームを経由せずに大規模な何かを行うことはできません。私たちは、非倫理的なことが行われないようにしています。」