検閲かそれとも素晴らしいニュースか？みんなが話題にしているサンチェスのツール、HODIO とは |テクノロジー

ペドロ・サンチェス政府大統領は今週水曜日、第1回ヘイト反対フォーラムで発表した。 HODIO という名前の新しいツールの開始 （政府の説明による憎しみと二極化の足跡）プラットフォーム上で憎しみを助長するコンテンツの拡散を監視します。そんなに システムの本質そのもの何かを監視する役割を担う人物、それに付けられた名前のように客観的に測定できない憎しみが、HODIO に関するネットワーク上でのコメントの連鎖を引き起こしました。

このツールは「検閲」を提供するという意見もあります。役に立たないと主張する人もいます。それを良いアイデアだと言う人もいます。そして、非常に多くの人が彼の名前を利用して嘲笑に耽っています。たとえば、これが彼がやったことです。 マドリッド共同体のイザベル・ディアス・アユソ議長が今週木曜、地方議会で発言「彼らが提示したツールは実際にはHODIOではなく、『クソ』だということがわかりました。ある程度の情報を持っている人にそれを渡すつもりなら、それがどのように受け取るかです。スペイン国民はあなたに背を向けており、そのため、彼らはそれを非常に『クソ』だと思っています」と彼は嘲笑し、ベンチを大いに喜ばせた。

HODIO は実際にどのような貢献をしているのでしょうか?それはどの程度新しいツールですか？それは検閲ツールと見なすことができますか?これは、このシステムについて現時点でわかっていることです。

ホディオとは何ですか?

憎悪と二極化の足跡 (HODIO) は、スペイン人種差別・外国人排斥監視団 (Oberaxe) を通じて包括・社会保障・移民省によって開発されたツールです。サンチェス氏が水曜日に発表したように、HODIO はスペインで使用されている主要なソーシャル ネットワーク (Instagram、TikTok、X、YouTube、Facebook) におけるヘイトスピーチと二極化の存在を分析し、 ランキング プラットフォーム間でヘイトにさらされるレベルを比較する、公共性と透明性。

その目的は「ソーシャルネットワーク上のヘイトスピーチと二極化の存在を測定し、評価すること」であると明記されている。 ツールのウェブサイト定期的に発行する ランキング ヘイトスピーチの蔓延とその内容の拡大を測定します。各プラットフォームの進化を監視するために、半年ごとのレポートが作成されます。

どのように機能するのでしょうか?

HODIOには自動解析部と手動解析部があります。一方で、定量的手法と人工知能 (AI) を統合して、大量のコンテンツを処理します ( フィードまたは監視されているソーシャル ネットワークの履歴など）特定のキーワードについて。その一方で、人によるレビューが組み込まれており、「精度、一貫性、国際基準の尊重が保証される」とウェブサイトには記載されている。

包括・社会保障・移民省の情報筋によると、HODIO はまだ準備ができていませんが、技術的な検討段階にあります。

それを測定する最初のツールですか？

いいえ、Inclusion がすでに導入している他の手段に追加されます。 Oberaxe（スペイン人種差別・外国人排斥監視団）は、パンデミックの発生と時を同じくして、2020年にヘイトスピーチの毎日の分析を開始した。 2022年以来、Oberaxeはバレンシア工科大学（UPV）が設計し、同省が運営する独自のアプリケーション「Alertodio」を運用しており、ネットワーク上で特定されたヘイトスピーチコンテンツを記録している。

2024年、インクルージョンはラ・リーガと協力して、AIを応用してこの種の言論を検出するFAROシステム（ソーシャルネットワーク上のヘイトのフィルタリングと分析）を立ち上げた。

たとえば、これらのツールが検出されました。 トーレ・パチェコ危機におけるヘイトスピーチの大幅な増加。 7 月 12 日の週末、スペイン各地から数十人の若者がムルシアの町へ旅行しました。極右からのデマによって奨励された移民に対する「狩りに行く」 それは、政府の機能を放棄したとされることに関して「何かをする」よう求めた。その週末、Oberaxe はネットワーク上で憎悪を煽るコメントを 1,500% 多く検出しました (通常の日の平均 2,000 と比較して約 33,000)。

コンテンツが憎悪を煽るものであるかどうかはどのように判断されるのでしょうか?

これが重要なポイントです。同省は、「学術的な基準と国際基準に基づいている」ことを保証するだけでなく、コンテンツが憎悪を煽るとみなす基準を具体的に明確にしていない。

一部の団体はすでに説明を求めている。これは女性消去反対同盟のフェミニストのケースで、HODIO が「ジェンダーに批判的なフェミニズム」をヘイトスピーチとみなすかどうか知りたいと考えています。彼らは、規範的な定義、アルゴリズムによる分類モデル、ラベル付け基準、憎悪の運用上の定義、システムの運用、その訓練データ、考えられるイデオロギーの偏見などに関する情報を要求しています。

「Oberaxeが実施するソーシャルネットワーク上のヘイトスピーチの監視は、犯罪や行政違反となる可能性がある、あるいはデジタルサービス提供のためのプラットフォーム自体の使用規則に違反する可能性のある、人種差別的、外国人排斥、イスラム嫌悪、反ユダヤ主義、反ジプシーの動機を伴うヘイトスピーチの内容を検索、編集、分析し、プラットフォームに通知することからなる」と、Oberaxeは何らかの手がかりを与えることができる。同省のウェブサイトによると、赤い線は合法だという。

それは検閲システムと考えられますか?

投稿にヘイトスピーチが含まれているかどうかを決定するために HODIO が従う基準が指定されていない限り、Oberaxe や FARO の基準と同様になることが予想されます。その場合、そのコメントが犯罪や行政違反に該当するかどうかが基準となる。