科学＆テクノロジー

ソーシャルメディア上のディープフェイクが選挙を脅かす可能性

愛国的な画像には、大スターのテイラー・スウィフトがアンクル・サムのような格好をしており、共和党の大統領候補ドナルド・トランプ氏を支持していると誤って示唆している。「テイラーはドナルド・トランプに投票してほしい」と、人工知能によって生成されたと思われる画像には書かれている。トランプ大統領は週末、自身のソーシャルネットワーク「トゥルース・ソーシャル」で760万人のフォロワーに対し、スウィフトファンからの支持を描いた他の画像とともにこの画像を共有し、嘘を広めた。欺瞞は長い間、 政治しかし、フレーズを入力するだけで偽の画像や動画を素早く生成できる人工知能ツールの台頭により、ソーシャルメディアでよく見られる問題がさらに複雑化している。ディープフェイクと呼ばれるこれらのデジタル加工された画像や動画は、誰かが実際には言っていないことやしていないことを言っているように見せかけたり、やっているように見せかけたりすることができる。トランプ氏と民主党候補の争いが カマラ・ハリス 偽情報への関心が高まる中、偽情報の専門家は生成型AIのリスクについて警鐘を鳴らしている。「選挙が近づくにつれて、この状況が爆発的に悪化するのではないかと心配している」と南カリフォルニア大学ビタビ工学部のコンピューターサイエンス教授、エミリオ・フェラーラ氏は言う。「今よりさらに悪化するだろう」次のようなプラットフォーム フェイスブック とXは、画像、音声、動画の改ざんを禁止する規則を設けているが、AIが生成したコンテンツがインターネットに溢れる中、これらのポリシーの施行に苦戦している。 政治的発言の検閲フェイスブックは、投稿を削除するよりも、コンテンツのラベル付けや事実確認に重点を置いている。また、風刺など、偽の画像をオンラインで作成して共有することを許可している例外もある。「私たちは過去、あらゆる問題を抱えています。あらゆる神話や意見の相違、そして一般的な愚かさに10年間対処してきました」と、誤報とデジタルフォレンジックを専門とするカリフォルニア大学バークレー校の教授、ハニー・ファリド氏は言う。「今、私たちは生成AIによってそれがさらに加速しており、私たちは本当に、本当に党派的になっています。」関心が高まる中、 OpenAI人気の生成AIツールChatGPTの開発元である同社は、テキスト、画像、動画を生成できる新しいAIツールの使用を人々に奨励している。ファリドは スウィフト画像を分析した トランプ大統領が共有した画像は本物と偽物の両方の画像を混ぜたもののようで、誤解を招くコンテンツを流す「悪質な」方法だと述べた。人々が偽の画像を共有する理由は様々だ。ソーシャルメディアで拡散するため、あるいは他人を荒らすためだけにそうしているのかもしれない。視覚的な画像はプロパガンダの強力な要素であり、2024年の大統領選挙の正当性など、政治に対する人々の見方を歪めていると彼は語った。Xでは、AIが生成したと思われる画像には、スウィフトがトランプ氏を抱きしめたり、手を握ったり、共和党員のトランプ氏がギターをかき鳴らしながらデュエットを歌ったりする様子が描かれている。ソーシャルメディアのユーザーらは、他の方法も使ってスウィフトがトランプ氏を支持したと虚偽の主張をしている。 Xは、スウィフトがトランプ氏を支持していると虚偽の主張をした動画を「操作されたメディア」と分類した。2月に投稿されたこの動画は、2024年のグラミー賞授賞式でのスウィフトの映像を使用し、彼女が「トランプが勝った。民主党は不正をした！」と書かれたプラカードを持っているかのように見せている。 政治運動はAIが選挙に与える影響に備えている。ハリス副大統領の選挙陣営は「悪質なディープフェイクの脅威を含む今回の選挙におけるAIの潜在的影響に備える」ため、部門横断的なチームを編成していると、広報担当のミア・エレンバーグ氏は声明で述べた。同陣営はデータ分析などの「生産性ツール」にのみAIの使用を許可していると同氏は付け加えた。トランプ陣営はコメント要請に応じなかった。偽造または改ざんされた動画を抑制する上での課題の1つは、ソーシャルメディアの運営を規定する連邦法がディープフェイクを具体的に扱っていないことだ。1996年の通信品位法では、ソーシャルメディア企業がコンテンツを投稿した人々を支援または管理しない限り、コンテンツのホスティングに対して責任を問われない。しかし、長年にわたり、テクノロジー企業は 何が現れたのか 多くのソーシャルメディア企業は、プラットフォーム上でヘイトスピーチを禁止するなど、この問題に対処するためのコンテンツ管理ガイドラインを制定しています。「ソーシャルメディア企業やオンライン運営者にとって、これはまさに綱渡りのようなものだ」と、法律事務所クロウェル・アンド・モリングのパートナー、ジョアンナ・ローゼン・フォースター氏は語った。立法者はこの問題に対処するために、 法案を提案する これにより、ソーシャルメディア企業は無許可のディープフェイクを削除することが義務付けられることになる。ギャビン・ニューサム知事は7月、選挙広告でAIを使って人の声を変えることを違法とする法案を支持すると述べた。この発言は、Xを所有する億万長者のイーロン・マスク氏がAIを使ってハリス氏の声を複製する動画をシェアしたことに対する反応だった。トランプ氏を支持しているマスク氏はその後、シェアした動画はパロディーだったと明言した。全米映画俳優組合・全米テレビ・ラジオ芸能人連盟は、ディープフェイクに対処する法律を推進する団体の一つだ。 SAG-AFTRAの全国事務局長兼首席交渉官であるダンカン・クラブツリー・アイルランド氏は、ソーシャルメディア企業はこの問題に対処するために十分な努力をしていないと述べた。「ディープフェイクによって拡散された誤報や完全な嘘は、決して元に戻すことはできません」とクラブツリー＝アイルランド氏は言う。「特に選挙は多くの場合、僅差で決まり、選挙人団のような複雑で難解なシステムによって決まるため、ディープフェイクによって拡散された嘘は現実世界に壊滅的な影響を及ぼす可能性があります。」クラブツリー＝アイルランド氏は、この問題を直接体験した。昨年、彼は、契約批准運動中にインスタグラムで拡散されたディープフェイク動画の対象となった。クラブツリー＝アイルランド氏が、自身が交渉した契約に反対票を投じるよう組合員に促す虚偽の画像を映したこの動画は、何万回も視聴された。動画には「ディープフェイク」というキャプションが付けられていたが、組合員からそれについて尋ねるメッセージが何十件も届いた。インスタグラムがディープフェイク動画を削除するまで数日かかったと彼は語った。「とても虐待的だと感じました」とクラブツリー・アイルランド氏は語った。「私が同意できない主張をするために、私の声と顔を盗むべきではありません。」ハリス氏とトランプ氏の争いが熾烈なため、両候補とも有権者にアピールするために有名人に頼っているのは驚くことではない。ハリス氏の選挙運動では、ポップスターのチャーリー・エックスシーエックスが描いた候補者の 「ガキ」 ビヨンセの「フリーダム」やチャペル・ローンの「フェミニノメノン」などの人気曲を使って、民主党の黒人およびアジア系アメリカ人女性大統領候補の宣伝を行った。ミュージシャン キッド・ロック、 ジェイソンの側に かつてカニエ・ウェストとして知られていたジョン・F・ケリーとイェは、7月に暗殺未遂の標的となったトランプ大統領への支持を表明した。スウィフトは、 ディープフェイク これまでスウィフトは2024年の大統領選挙で候補者を公に支持したことはないが、過去にはトランプ氏を批判したことがある。2020年のドキュメンタリー『ミス・アメリカーナ』で、スウィフトは両親やチームとの涙ながらの会話の中で、2016年の選挙でトランプ氏に反対の声を上げなかったことを後悔していると語り、当時米国上院議員に立候補していたテネシー州共和党のマーシャ・ブラックバーン氏を「かつらをかぶったトランプ」と激しく非難した。スウィフトの広報担当、ツリー・ペイン氏はコメントの要請に応じなかった。Meta、X、OpenAIなどのプラットフォームのAI搭載チャットボットは、人々が架空の画像を簡単に作成できるようにします。報道機関は、XのAIチャットボットGrokが 選挙詐欺の画像ただし、他のチャットボットはより制限が厳しいです。Meta AIのチャットボットは、記者の試みの後、スウィフトがトランプ氏を支持する画像の作成を拒否した。「誤った情報を広めたり、著名人が特定の政治候補者を支持しているという印象を与えたりする可能性のある画像を生成することはできません」とMeta AIのチャットボットは答えた。MetaとTikTokは、AI生成コンテンツにラベルを付け、ファクトチェッカーと提携する取り組みを挙げた。例えば、TikTokは、個人またはグループによる著名人の政治的支持を誤って描写するAI生成動画は許可されないと述べた。Xはコメントの要請に応じなかった。 トゥルース・ソーシャルがAI生成コンテンツをどのように管理しているかを尋ねられたとき、プラットフォームの親会社であるトランプ・メディア・アンド・テクノロジー・グループは、ジャーナリストが「さらなる検閲を要求している」と非難した。トゥルース・ソーシャルの コミュニティガイドライン 詐欺やスパムの投稿を禁止する規則はあるが、AI 生成コンテンツの取り扱いについては明記されていない。ソーシャル メディア プラットフォームが規制や訴訟の脅威に直面している中、誤情報の専門家の中には、ソーシャル ネットワークが誤解を招くコンテンツを適切に管理したいと考えているかどうか疑問視する人もいます。ソーシャルネットワークは広告からほとんどの収益を得ているため、ユーザーをプラットフォームに長く留めておくことは「ビジネスにとって良いことだ」とファリド氏は語った。「人々の関心を引くのは、絶対的で、最も陰謀的で、憎しみに満ち、わいせつで、怒りに満ちたコンテンツだ」と彼は語った。「それが私たち人間の本質だ」それは、スウィフティーズでさえも振り払うことのできない厳しい現実だ。スタッフライターのミカエル・ウッド氏がこのレポートに貢献しました。 #ソーシャルメディア上のディープフェイクが選挙を脅かす可能性