ポルノハブのチャットボットが英国のユーザーに児童虐待動画を検索しないよう警告し、助けを求めるよう指示

2022 年以来、Pornhub の英国 Web サイトで児童虐待の動画を検索してきた何百万もの人々が中断されました。

ユーザーが虐待に関連する単語やフレーズを検索するたびに、24 か月間で 440 万回とカウントされ、再考チャットボットが表示され、ページをブロックする警告メッセージが表示されました。

この警告メッセージは、検索しているコンテンツの種類が違法であることをユーザーに伝えました。

場合によっては、ユーザーの 50% に対して、 人工知能 (AI) チャットボットは、人々が助けを求められる場所も示しています。

このニュースは、国立行方不明・搾取児童センターが、2022年に企業や一般大衆から児童性的虐待の疑いに関する報告を3,200万件以上受け取ったと発表した後に発表された。

同団体は、児童搾取の疑いを浮き彫りにする約8,800万件の画像、ビデオ、その他のファイルが提出されたと発表した。これは、2019年に同センターに報告された過去最高の7,000万件の画像とビデオを上回っている。

国立行方不明児童搾取センターによると、Facebook、Instagram、Snapchat などのソーシャル プラットフォームの発展により、虐待的なコンテンツの検出が容易になっています。

2020年、ニューヨーク・タイムズの報道で批判された後、 ポルノハブ は、Web サイトから児童虐待に関するコンテンツやその他の忌まわしいコンテンツをすべて根絶するために、サイトから約 1,000 万本のビデオを削除しました。

毎年、何百万もの児童虐待関連コンテンツがウェブから削除されていますが、画像や動画は依然としてソーシャルメディアで共有され、プライベートチャットで取引され、ダークウェブで販売されています。

搾取的な映像が他の合法的なポルノ動画共有サイトに販売されるケースもあった。

Pornhub チャットボットは、英国に拠点を置く 2 つの児童保護団体とのビデオ共有 Web サイトの協力の一環として提供されています。 この共同作業は、AI の小規模な介入によって人々が違法コンテンツを探すのを阻止できるかどうかを調べることを目的としました。

インターネットから搾取的な児童コンテンツを削除する非営利団体である Internet Watch Foundation (IWF) がチャットボットを作成しました。 児童の性的虐待防止に取り組む慈善団体ルーシー・フェイスフル財団は、この裁判に取り組んだ2番目の団体だった。

『WIRED』が入手した共同AIテストを分析した新しいレポートによると、チャットボットを導入することで検索する人が減ったという。 児童性的虐待 材料。

ユーザーの中にはAIのアドバイスに従い、自分の心理的傾向や行動に対するサポートを求めた人もいた。

AI チャットボットは個々のユーザーを特定しませんでしたが、人々に一連の個人的な質問をしました。 ユーザーは、独自の応答を入力するか、事前に作成された応答を選択するように指示されました。

アンケートは、ユーザーが Lucy Faithfull Foundation のヘルプ サービスを参照することで終了しました。

報告書によると、チャットボットにより、チャットボットを通じて直接詳細情報を求める 1,656 件のリクエストが行われ、490 人が慈善団体の Stop It Now Web サイトをクリックし、約 68 人がルーシー フェイスフルの機密ヘルプラインに電話または通話しました。

reThink チャットボット テストの分析を主導したタスマニア大学の上級講師、ジョエル スキャンラン氏は、「実際の検索数は、実際には非常に恐ろしい数字です。」と述べました。

2 年間の裁判中、Pornhub の英国 Web サイトには 4,400,960 件もの膨大な警告があり、児童虐待に関連する単語やフレーズを検索したユーザーを検出しました。

この試験では一部のユーザーの不穏な利益が明らかになりましたが、試験中のすべての検索の 99% には警告が表示されませんでした。

スキャンラン氏は「介入期間が長くなるにつれ、捜索件数が大幅に減少した」と説明し、「抑止メッセージは確かに機能している」と続けた。