ヒトラーの演説を含むネオナチのコンテンツが TikTok の AI ツールを通じて拡散

生成型人工知能は、元ドイツの独裁者アドルフ・ヒトラーを含む偏屈者の恐るべき遺産を復活させつつあり、TikTokユーザーはアプリのAIツールを利用して、とうの昔に亡くなった指導者たちの外国人排斥的な演説を蘇らせている。

この現象は最近、2 つの異なる報告書で文書化され、1 つは非営利の監視団体によるものです。 アメリカにとってメディアは重要 そしてもう一つは、 戦略対話研究所 および SITE Intelligence Group が発行 ワシントンポスト。両社は、ヒトラー演説の翻訳版、AI吹き替え版を作成、配布する小規模なアカウントネットワークを明らかにした。

Media Mattersの調査によると、AIが生成した音声は累計で数百万回再生されており、その中にはリーダーを嘲笑する動画や音声をミーム化した動画も含まれている。他のアカウントは、これらの音声を熱心に作成して共有することに専念しているようで、時にはあからさまに反ユダヤ主義的なメッセージが含まれていました。この音声を使用した人気のビデオは、速度を落として「リバーブ」した音声で様式化されていることが多く、2024 年 4 月まで遡り、いくつかは不適切に翻訳されています。レポートの公開後、TikTok は 1 人の既知のアップロード者のアカウントを削除し、関連する検索を別のサイトに誘導し始めました。 「ホロコーストに関する事実」 このページには、ヒトラーによる数百万人の民間ユダヤ人、障害者、政治犯、LGBTQ+の人々、およびロマ系の人々の虐殺が記録されている。

の ワシントンポスト は、既知のファシストグループが、オンラインのヘイトスピーチや右翼コミュニティに参加する「赤毛の」若者の増加を引き合いに出し、偏屈なプロパガンダを広めるためのAIの使用を賞賛していると報告した。専門家らは同誌に対し、メタサイトやXなどのプラットフォームモデレーションツールがAI支援による拡散に追いつけなくなるのではないかと懸念していると語った。

どちらの報道も、動画のコメント欄には多くの肯定的な感情があり、一部のユーザーは歴史的人物とその政策をあからさまに賞賛していることを指摘し、これらの動画の多くは明らかな白人至上主義者の犬笛を誇示するものではなく、ユーザーが無意識のうちに犬笛を吹いているのではないかとの懸念を引き起こしていると警告した。内容によって過激化する。

歴史上の人物の遺産を書き換えようとする同様の試みが、AI によって促進され、昨年から TikTok に登場しました。 6月には、 誤って漏洩した アプリの新しい AI デジタル アバター ツールの内部バージョン (ユーザーがクリエイターの肖像を使用して広告を生成できるようにする) により、アバターがさまざまな白人至上主義のレトリックを朗読する AI 生成ビデオがいくつか流通するようになりました。 私の戦い そしてオサマ・ビンラディンの「アメリカへの手紙」。 2023 年には TikTok 動画が 同じビンラディンの声明を暗唱する、白人至上主義の感情と関連付けられることもありますが、 クロスアプリパニックを引き起こした、イスラエルによるガザでのパレスチナ人包囲と米国の支援を考慮して、ユーザーがこの演説を反帝国主義論文として再文脈化した。

一般的に、監視団体は、国内外の攻撃者による繰り返しの事例を文書化しています。 アプリ上で偽情報を広める 合成デジタル偽造（または「ディープフェイク」）を含む生成 AI ツールの使用を通じて、 政治指導者。白人至上主義者で親ナチスのアカウントもこのプラットフォーム上で急増しており、テレグラムなどのサイトのネットワークと連携してソーシャルメディアアルゴリズム内でコンテンツを強化している。

によると 7月のレポート 戦略対話研究所によると、TikTokは「数百」の親ナチスアカウントをホストしており、累計で数百万回の再生回数を獲得している。同組織によれば、同社は感染拡大を阻止するほど迅速に行動していないという。