デリー議会選挙を前に、X の Grok AI によりディープフェイクに対する懸念が再燃

代表画像｜写真提供: ロイター

Aam Aadmi Partyは先月、元デリー首相Arvind Kejriwalを祝福したとされるBR Ambedkarの人工知能が生成したディープフェイクを投稿し、インドインド人民党からAIが生成した返答を促した。

デリー議会選挙に向けて、この交流により、政治運動における AI の使用と選挙で AI が果たす役割に関する議論が再燃しました。このディープフェイクの使用は、Grok (X (旧 Twitter) が提供する AI チャットボットおよび画像生成サービス) が一般に利用可能になって以来、増加しています。他の AI チャットボットが採用しているポリシーとは異なり、X のオーナーであるイーロン マスク氏は、現実の政治的人物に基づく画像を禁止しないことを決定しており、その結果、Grok 上でそのようなコンテンツが急増しています。

ネルー氏がパワーパロディをディープフェイク

たとえば、X アカウントは、亡くなって久しいネルー大統領が現首相のナレンドラ モディとニルマラ シタラマン財務大臣に不人気な決定を下すよう命令している画像を生成することで、インドの初代首相ジャワハルラール ネルーが現代病の原因であると絶えず非難していることを皮肉っています。このアカウント @The_Nehru は 20,000 人以上のフォロワーを獲得しました。このアカウントは「モディ首相がネルー大統領を非難し始めた最近の議会討論に基づいており、彼はほとんどの場合そうしている」と、その作成者（別名JLN）が語った。 ヒンドゥー教 X のダイレクト メッセージで。「そこで、次のアイデアを思いつきました。 [a] パロディアカウントや発言を嘲笑する。」

インドのユーモアについて執筆するコメディアンであり、デリーの人間と呼ばれる風刺ページ（ボンベイの人間などを対象としたページ）の共同寄稿者の一人であるアディラージ・シンは、AI がインドの作物にとって持続的に面白い主力であることに懐疑的だった。アカウント。 「政治家のふりをした風刺ページは新しいことではないが、AIツールのおかげで私たちのタイムラインにゴミが溢れやすくなり、最終的には風刺や解説が無意味になり、他の種類のノイズと切り離せないものになってしまう」とシン氏は語った。 「誰が何に使うかによって大きく左右されると思います。」

同氏は、この種のコンテンツがより一般的になりつつあることに懸念があると付け加えた。「風刺、誤った情報、ヘイトスピーチが説明責任なしに同じ意味で使用されている。 「風刺」ページを本物のニュースと取り違える人々やニュースソースさえも、もはやニュースですらない。持続可能ではありませんが、私たちは今、ポストシンギュラリティ AI の泥沼の中にいます。」

政治的影響

実際、このようなディープフェイクの使用は政党やパロディ アカウントだけに限定されません。ある政治評論家は、議会指導者ラーフル・ガンジー氏が実業家で起業家のジョージ・ソロス氏に似ている写真を投稿し、彼をガンジー氏の「指導者」と呼ぶキャプションを付けた。

生成的 AI ディープフェイクとインドに関するレポートの中で、偽情報に焦点を当てた新興企業 Logically は、「何らかの影響があるかどうかを評価する際に、特定の種類のコンテンツだけに集中すると、偽情報キャンペーンの運営方法が曖昧になる可能性がある」と書いています。実際、その結果は、さまざまなフォーラムで際限なく表示されるコンテンツの累積的な影響にあります。」

2023年、当時の電子情報技術大臣ラジーブ・チャンドラセカールは、「ナレンドラ・モディはファシストですか？」という質問に対するGoogle Gemini AIの応答に不満を述べた。インドの法律違反だった。 Meta や OpenAI が提供するような AI チャットボットは現在、この特定の質問への回答をほとんど拒否していますが、他のチャットボットも同様です。

しかし、Grok はありのままの政治的反応を提供し続けており、政治的な合成画像の生成を制限していません。これまでのところ、風刺的なネルー氏のアカウントの人気が急上昇しているにもかかわらず（投稿によっては10万回以上の閲覧数がある）、同様の反発は来ていない。実際、「JLN」によれば、このアカウントはまだ組織的な荒らしにさえ直面していないという。 「彼らは、どのような攻撃が私を無力化することができるのか混乱しているかもしれません」と口座所有者は言いました。