私たちは皆そこにいました。人工知能（AI）チャットボットは、私たちに非常に自信があり、完全に洗練された答えを提供します。たぶんそれは存在しない研究を引用した。たぶんそれは誰かの言葉をひねった。いずれにせよ、結果は同じです：それは正しいように聞こえますが、それは間違っています。人々はこれらのスリップアップを「AI幻覚」と呼んでいます。 AIがどこにでもあるので、これは牽引力を獲得した用語です。しかし、「幻覚」は本当に何が起こっているのかを捉えていますか？それとも、人がそれをしたなら、私たちは嘘をつくと呼ぶでしょうか？
「幻覚」は無害に聞こえます
最初は、それを「幻覚」と呼ぶと、AIが奇妙な瞬間を持っているように見えます。おっと、害はありません。しかし、その構成された情報が医師のアドバイスに表示された場合はどうなりますか？または学校の論文？または法的文書？今ではそれは単なる無害な不具合ではありません。それは本当の問題です。問題はそれが間違っているだけではありません。それは正しいように聞こえるということです。そして、ほとんどの人はそれを信頼する前によく考えていません。
AIは嘘をつくことができますか？
技術的には、いいえ。 aiは考えも感じず、誰もだらしないことを計画していません。それは真実か偽かがわからないので、通常の定義では、できません 嘘。しかし、ここでは乱雑になります。それは、完全に自信を持って間違った答えを吐き出します。そして、彼らはとても信じられないように聞こえます。そのため、その背後に意図がない場合でも、 感じます 嘘のように。そして、それがそれをとても危険にさらすものです。
Sun et alのような研究者。 （2024）これを「偽の現実」の作成と呼びます。これらは間違っている出力ですが、説得力があります。危険は、特にユーザーがAIが信頼できる真実の源であると想定している場合、これらの虚偽がどれほど信じられているかにあります。
なぜこれが起こるのですか？
大きな理由は、これらのシステムの構築方法に関係しています。バロス（2025）が指摘しているように、GPTのようなモデルは真実を伝えるように設計されていません。彼らは次の最も可能性の高い言葉を予測するように設計されています。それでおしまい。彼らは、正確ではなく、流fluentになるように訓練されています。したがって、トレーニングデータにパターンがある場合 見て 真実のように、モデルは間違っていても、モデルに従います。 šekrst（2025）は魅力的な角度を追加します。彼女は、AIの過ちは知識のギャップではないと主張します。それらは信念のシミュレーションのようなものです。言い換えれば、AIはそうではありません 信じる それが言っていること（それは何も信じていないから）、しかしそれは信念を非常によく模倣する言語を生成します、私たちはそれに応答します あたかも それはそれを持っていました。
なぜそれが重要なのか
それがただのカジュアルな会話であるとき、幻覚は面白いか奇妙かもしれません。しかし、健康、法律、科学などのハイステークスの文脈では、間違っているコストは現実です。そして、AIが自信を磨きながら話すとき、いつそれがいつそれが は 間違っている。
Wu（2024）は、人々と興味深い比較をします。人間は時々真実を伸ばして説得します。違い？通常、理由があります。 AIはしません。良い音を生成し続けるだけです。それは賢いことではありません。それは訓練されたことをやっています：次の単語を正しく聞こえます。
そして、これは私たちを別の重要なポイントにもたらします。人間として、私たちは自然に、人のように話すものはすべても自分のように考えていると仮定します。それは擬人化と呼ばれ、これらのシステムが非常に誤解を招く可能性がある大きな理由です。 Maleki、Padmanabhan、およびDutta（2024）が主張するように、これらのエラーを「幻覚」と呼ぶと、実際に認知バイアスを簡単に引き起こすことができます。
それで、私たちは何をしますか？
AIが嘘をつくつもりではなく、それでも私たちを誤解させている場合、どのように修正しますか？
焦点をシフトすることは役立つかもしれません。 AIかどうかを尋ねる代わりに 意図されています 欺くために（そうしなかった）、私たちは尋ねるべきです： この出力にはどのような影響がありますか？ 人々が誤った情報を受けたり、傷つけたりしている場合、意図は問題ではありません。
AIは脳ではありません。それはツールです。それが「意味する」こと、またはそれが「考えている」ことを尋ねる代わりに、質問してください：私たちはそれを信頼できますか？どのくらいの頻度で台無しになりますか？問題を引き起こす前に、これらの間違いをキャッチできますか？それは、AIの答えを実際の、チェック可能なソースに結び付けることを意味するかもしれないので、物を作るだけではありません。それはまた、私たちがわからないときに前もって存在することを意味します。そして、おそらく最も重要なことは、それはAIを「良い」ものにするものを再考することを意味することです。
最終的な考え
これらの間違いを「幻覚」と呼ぶかもしれません。しかし、それはもっと深刻なものを微調整します。これらは夢のような不具合ではありません。それらは、AIの仕組みに組み込まれた構造的な欠陥です。モデルは誰も誤解させようとはしていませんが、それは間違いをそれほど危険にさらすことはありません。そう、私たちはAIがどこまで来たかに感銘を受けることができます。しかし、それは間違いなくそれを信頼する必要があるという意味ではありません。まだ。
#人工知能は意図的に嘘をつきません