報告書は、ネオナチグループがTikTokのアルゴリズムをいかにして利用しているかを明らかにしている

白人至上主義者やネオナチのネットワークはTikTokを宣伝や勧誘のツールとして利用しているという。 レポート 7月29日月曜日に戦略対話研究所（ISD）によって発表され、 専門誌が明らかにした 有線ソーシャル ネットワークの分析を専門とするこの独立組織は、公然と極右のアカウントがプラットフォームのモデレーション ルールを回避し、強力な推奨アルゴリズムを有利に利用するために使用する手法を分析します。

ISD の研究者らは、以前特定されたネオナチのアカウントから、TikTok 上の同じタイプの 200 のプロフィールのネットワークを発見した。空のユーザー アカウントを使用してコンテンツの一部を閲覧した後、類似の極右動画が、アプリケーションの推奨アルゴリズムによって選択された動画を表示する「For You」ページにすぐに提案されたことがわかった。アルゴリズム強化の現象はすでに広く文書化されており、「For You」ページに表示される動画は、特にインターネット ユーザーが以前に視聴したもの、各コンテンツに費やした時間、または「いいね」の数に応じて決まる。

しかし、ISDの調査は、極右グループがTikTokが自分たちの利益にどのように役立つかを非常によく理解しているように見えることを示している。彼らは知名度を上げるために、お互いをフォローするアカウントのネットワークを構築している。 「フォローフォーフォローの戦術」 これは「あなたが私について来れば、私はあなたについて来ます」と翻訳できる。報告書によると、 「より緊密なメッシュでネットワークを構築し、より大きな関与を可能にする古典的な方法 [des internautes] » ら 「急速な成長を促進する」。 「数十のアカウントは、名前、プロフィール写真、フォロワー数、フォローしている人数がほぼ同じであり、同一ユーザーの重複アカウントであることを示しています。」著者らは説明する。

こうしたネオナチアカウントの背後にいる人物は、TikTok 以外では Telegram のチャンネルにいることが多い。彼らはここで動画や画像、音声を共有して放送し、中国のプラットフォーム上での露出を最大限に高めるために連携している。ISD は、モデレーションがほぼ完全に欠如していることで悪名高いアプリ Telegram で、こうしたチャンネルを 100 以上リストアップしている。

モデレーションを回避する戦略

この調査では、TikTokのモデレーションを回避するために極右アカウントが開発したさまざまな戦略も示されており、その多くは既に知られているものだった。暗号化された言語や特定の絵文字（ジュースの箱など）の使用、 ” ジュース “ 英語では、同音異義語に近い 「ユダヤ人」 たとえば、「ユダヤ人」などのキーワードを意図的に変更したスペルで統合したり、一見中立的なコール画像（動画をクリックする前に表示される画像）を慎重に選択して、コンテンツの本当の目的を隠したりします。

報告書ではまた、人種差別的または憎悪的な要素を明示的に含まない特定の音声クリップや音楽の使用が、どのように「ウィンク」、つまり言及として機能するかについても詳しく述べている。 「TikTokでは、クライストチャーチの爆弾犯がイスラム教徒51人を殺害した後に運転中に聴いていた曲を検索すると、1,200本の動画がヒットする。著者を例に挙げてみましょう。 そのうち 10 本のビデオのうち 7 本は、攻撃そのもの、その目的、あるいは犯人を称賛するもの、あるいはビデオゲームでそれを再現するものまでありました。

ISDの調査では、英語だけでなくフランス語、ハンガリー語、ドイツ語、ロシア語でもネオナチのアカウントが特定されていると説明している。 有線 報告書の著者の一人、ネイサン・ドクター氏は、これらのグループの間に国際的規模での連携があるとは言えないが、彼らはお互いを認識し、交流していると述べている。

ISDの報告書は最終的に、憎悪的なコンテンツを拡散するこれらのアカウントに対するTikTokの対応の欠如を非難している。 「これらの戦術は、TikTokがなぜこの問題に対処できないのかを明らかにしている。著者らは残念に思う。 このプラットフォームは、ネットワーク全体を追及するのではなく、個々のアカウントや動画を削除しているようだ。その結果、ユーザーが禁止されても、アカウントを再作成して新しいコンテンツを急速に拡散できる場合が多い。 報告された50のアカウントのうち、約半数が1か月以内に禁止された。

「憎悪的な行動、組織、イデオロギーはTikTokには存在すべきではありません。私たちはこの種のコンテンツの98％以上を、私たちに報告される前に削除しています。」に答えます 有線 TikTokの広報担当者は次のように述べた。同社はさらに、 「40,000人のモデレーター」。