科学＆テクノロジー

生成AIの普及で、”オレオレ詐欺”も進化する!? 「ハルシネーション（幻覚）」を覚えておこう | Business Insider Japan

レイチェル・メンデルソン/インサイダー無料メルマガに登録する生成AIは、息を吸うようにウソをつく――。ある程度、利用したことがある人には、もうおなじみのことですよね。生成AIは恐ろしく便利な半面、基本的には「もっともらしい」回答を返しているだけ。なので、壮大な誤情報であっても、しれっと悪気なくぶち込んでくるのです。ごくたまに、ですが。実はこの現象、「ハルシネーション（幻覚）」と呼ばれています。ミス（Miss）でも、エラー（Error）でも、フェイク（Fake）でもなく、ハルシネーション（Hallucination）。文系人間としては、「プロンプト（指示文）」と同様に、どうにも馴染めない言葉です。でも、生成AIとのやりとりを重ねるうちに、納得感が深まってくるんですよね。これは、まさに“幻覚”だ……。なにしろ、 “てにをは”も、“言葉遣い”も、“論理展開”も完璧。誤回答なのに、ぱっと見では気づけません。調べて初めて、「いや、これ完全に間違ってるじゃん」と青ざめるのです。これは、ただでさえやっかいなのに、もし意図的に生み出されたら、とんでもないことになりますよ。25日に再放送された、NHKスペシャル「創られた“真実” ディープフェイクの時代」は、まさにそれを体験できる番組でした。海外にいるはずの上司から、ビデオ通話で巨額の送金指示。しかし、それが生成AIで作られたディープフェイク動画で、言われるがままに実行した部下は……という空恐ろしい内容だったのです。もしオレオレ詐欺や劇場型犯罪が、生成AIで”幻覚”のごとく進化したら？ どう対応するすべきか、ChatGPTに相談したところ、1.「本物らしさ＝本物」ではない、と自覚する2.「ちょっと変だな？」と思ったら、必ず一度立ち止まる3. 孤立しない。相談できる環境を持つとのこと。どうやら、「現実を丁寧に生きろ」という逆説的なメッセージのように受け取れます。……これが、ハルシネーションじゃければいいのですが。SEOはもう古い。最新のAIマーケティング「AEO」とは何か…急増中の新鋭スタートアップ30社リスト | Business Insider Japan #生成AIの普及でオレオレ詐欺も進化する #ハルシネーション幻覚を覚えておこう #Business #Insider #Japan