Pornhub のチャットボットにより、数百万人が児童虐待動画を検索できなくなりました

過去 2 年間、英国の Pornhub ウェブサイトで児童虐待の動画を検索する何百万人ものユーザーが中断されてきました。 誰かが虐待につながる単語やフレーズを 440 万回入力するたびに、その種のコンテンツは違法であるという警告メッセージがページをブロックしました。 また、半数のケースでは、チャットボットが人々に助けを求められる場所を示しています。

この警告メッセージとチャットボットは、小規模な介入で人々が違法コンテンツを探すことから遠ざけることができるかどうかを調べるため、英国に本拠を置く児童保護団体2つと共同で実施した試験プログラムの一環としてPornhubによって導入された。 『WIRED』と独占的に共有された、このテストを分析した新しいレポートによると、ポップアップのせいで児童性的虐待資料（CSAM）の検索数が減少し、多くの人々が自分たちの行動に対するサポートを求めているという。

「実際の検索数は、実際には非常に恐ろしい数字です」と、reThink チャットボットの評価を主導したタスマニア大学上級講師のジョエル・スキャンラン氏は言います。 複数年にわたる試験期間中に、Pornhub の英国 Web サイトでの CSAM にリンクされた検索に応じて 4,400,960 件の警告がありました。試験期間中のすべての検索の 99% では警告は表示されませんでした。 「介入期間が長くなるにつれ、検索数は大幅に減少しました」とスキャンラン氏は言う。 「つまり、抑止メッセージは実際に機能するのです。」

毎年、何百万もの CSAM の画像やビデオが Web 上で発見され、削除されています。 これらはソーシャル メディアで共有され、プライベート チャットで取引され、ダーク ウェブで販売され、場合によっては合法のポルノ Web サイトにアップロードされます。 ハイテク企業やポルノ企業は、プラットフォーム上で違法なコンテンツを許可していませんが、効果のレベルは異なります。 Pornhubは、児童虐待の素材やその他の問題のあるコンテンツをWebサイトから根絶するために、2020年に約1,000万本の動画を削除した。 ニューヨーク・タイムズ 報告。

親会社Aylo（旧MindGeek）が所有するPornhubは、児童虐待の素材の検索をブロックするために、複数の言語にわたる34,000の禁止用語のリストを何百万もの組み合わせで使用していると同社の広報担当者は述べた。 広報担当者によると、これはPornhubが違法コンテンツと闘うための手段の1つであり、児童搾取や同意のない動画をホストしてきた長年の疑惑を受けて、ユーザーの安全を目的とした同社の取り組みの一環だという。 英国の人々がPornhubのリストにある用語を検索すると、警告メッセージとチャットボットが表示された。

このチャットボットは、Web から CSAM を排除する非営利団体である Internet Watch Foundation (IWF) と、児童の性的虐待の防止に取り組む慈善団体である Lucy Faithfull Foundation によって設計および作成されました。 この警告メッセージは合計 280 万回表示されました。 この試験では Pornhub のセッション数がカウントされており、これは人々が複数回カウントされていることを意味しており、個人を特定するものではありませんでした。 報告書は、Pornhub上でCSAMの検索が「大幅に減少」しており、少なくとも「部分的には」チャットボットと警告メッセージが役割を果たしているようだと述べている。