調査によると、大手ソーシャルメディアプラットフォームのいくつかは、危険な自殺や自傷行為のコンテンツを検知して削除できていないという。
モリー・ローズ財団は、6つの最大手プラットフォームで行われた1,200万件以上のコンテンツ管理の決定のうち、95%以上がPinterestとTikTokの2つのサイトによって検出され削除されたことを発見した。
報告書で取り上げられた他の4つのプラットフォームは、Facebook、Instagram、Snapchat、X（旧Twitter）だった。
同財団は、こうしたコンテンツに対するほとんどのプラットフォームの対応は「一貫性がなく、不均一で、目的に適っていない」と指摘した。
同慈善団体によると、MetaのInstagramとFacebookは、調査対象となった主要サイトで検出された自殺や自傷行為に関するコンテンツ全体の1％を占めており、Xはわずか700件のコンテンツ決定に関与しているという。
同財団は現在、オンライン安全法はソーシャルメディア企業のコンテンツ管理アプローチにおける明らかな組織的欠陥に対処するには不十分であると警告している。
同慈善団体の会長イアン・ラッセル氏は、政府に対し、規制をさらに強化できる新たなオンライン安全法案に取り組むよう要請した。
ラッセル氏とその家族は娘を偲んでモリー・ローズ財団を設立した。 モリーは、ソーシャルメディアで有害なコンテンツを見た後、2017年11月に14歳で自ら命を絶った。
「モリーが亡くなってからほぼ7年が経ったが、大手IT企業のほとんどが手をこまねいて、若い命を救うことよりも何もしないことを選んでいるのは衝撃的だ」とラッセル氏は語った。
「ここ数週間が示したように、より野心的な規制が必要であることは極めて明白だ。
「だからこそ、新政権は仕事を終わらせ、オンライン安全法の強化に取り組むべき時が来ているのだ。」
「インスタグラムやフェイスブックのようなサービスが、温かい言葉を約束しながらも、本来は予防可能な危害に子供たちをさらし続けていることに、全国の親たちは当然ながら愕然とするだろう。
「何の疑問もなく、断固たる行動が必要なのは明らかだ」
画像: TikTok と Facebook が調査に参加しました。写真: iStock
同財団は報告書の中で、ソーシャルメディアサイトはサービスの中で最もリスクの高い部分で有害なコンテンツを検知できていないことが日常的に判明したと述べた。
例えば、短編動画機能「リール」が現在アプリで費やされる時間の半分を占めているにもかかわらず、インスタグラムが検出した自殺や自傷行為の投稿50件のうち動画はわずか1件だったという。
調査ではまた、TikTokが自殺や自傷行為のコンテンツを300万件近く検出したにもかかわらず、アカウントを2つしか停止しなかったことを指摘し、サイト側が独自のルールを施行できていないと非難した。
この研究は、EU で行われたコンテンツ モデレーションの決定に基づいており、その決定は一般に公開されることが義務付けられています。
この調査に対して、Metaの広報担当者は「自殺や自傷行為を促すコンテンツは当社の規則に違反する」と述べた。
「この報告書の統計は私たちの努力を反映していないと考えています。昨年だけで、私たちは世界中でFacebookとInstagramからこの種のコンテンツ5060万件を削除しましたが、99％は私たちに報告される前に対処されていました。」
「しかし、EUでは現在、英国や世界の他の地域で実施されているすべての対策を展開することはできない。」
スナップチャットの広報担当者は「コミュニティの安全と幸福は最優先事項です。スナップチャットは他のプラットフォームと異なり、未審査のコンテンツを公開するニュースフィードはなく、公開配信前にコンテンツがモデレートされるように設計されています」と述べた。
「当社は自傷行為や自殺を助長または奨励するコンテンツを厳しく禁止しており、こうしたコンテンツを特定した場合、または報告があった場合は速やかに削除し、適切な措置を講じます。」
「私たちは、コミュニティのメンバーが苦しんでいることに気づいたときに、自傷行為の防止と支援のリソースを共有し、適切な場合には緊急サービスに通報することもできます。」
「当社は、この種の危害から子供を保護することを含むオンライン安全法の施行について、引き続き Ofcom と緊密に協力していきます。」
ティックトックは声明を出さなかったが、自殺や自傷の計画の提示、宣伝、共有は禁止されているという明確なルールがあると述べた。
科学技術イノベーション省の広報担当者は、「ソーシャルメディア企業には、自社のプラットフォームを利用する人々の安全を守る明確な責任があり、そのためのプロセスは効果的でなければならない」と述べた。
「オンライン安全法では、故意に自傷行為を助長する者には、現在、最高5年の懲役刑が科せられる。同法が完全に施行されれば、プラットフォームは、たとえ犯罪基準を下回るものであっても、深刻な自傷行為を助長する違法コンテンツを積極的に削除し、自傷行為や自殺を助長するコンテンツを子供たちが目にするのを阻止する必要が出てくる。」
「我々はできるだけ早くこうした新たな保護策を導入したいが、企業は法律が施行されるのを待つべきではない。今すぐにすべてのユーザーを保護するために効果的な措置を講じなければならない。」
PinterestとXはコメントの要請に応じていない。
#FacebookInstagramSnapchatX #は危険な自殺や自傷行為のコンテンツを削除できていない #調査 #科学技術ニュース