1733082840
メタ 関連するコンテンツの 99% が保証されます。 自傷 彼のソーシャルネットワーク上で。しかし、デンマークの研究者らは、フェイスブックの親会社のアルゴリズムと、 インスタグラム このタイプのコンテンツを強調表示すると、 最年少の節度ポリシーにもかかわらず、報道によると ガーディアン 今週の土曜日。欧州のデジタル規制に違反する仕組み。
この研究を実施するために、責任あるデジタル開発を推進するデンマークの組織であるDigitalt Ansvarの研究者たちは、Instagram上に未成年者の偽プロフィールを含むプライベートな自傷行為ネットワークを作成しました。数日間かけて、彼らは自傷行為に関連した合計 85 個のコンテンツを徐々に共有しました。これらの出版物には、血、カミソリの刃、傷跡の奨励などの表現がますます露骨になってきました。
モデレーション ポリシーに従って、ネットワークは Meta によってすぐに削除されるべきでした。しかし、インスタグラムのアルゴリズムは未成年者のプロフィールにインスタグラムを宣伝することで、インスタグラムの発展を積極的に助けたと研究者らは非難している。したがって、これらの若者（一部は 13 歳）は、このプライベート ネットワーク上のすべての偽プロフィールを「フォロー」することになります。研究によると、これは「インスタグラムのアルゴリズムが自傷ネットワークの形成と拡散に積極的に貢献していることを示唆している」という。
「自殺につながる現象」
「徐々に進めていくことで、AI やその他のツールがこれらの画像を認識または識別できるしきい値に到達すると考えました」と、Digitalt Ansvar のマネージング ディレクターであるアスク ヘスビー ホルム氏はガーディアン紙の同僚に語った。 「彼らがこのコンテンツを理解して特定しようとする何らかのメカニズムがあると考えていたため、これは憂慮すべきことです」と彼は付け加えた。
明らかなコントロールの欠如は「深刻な結果につながる可能性がある」と裁判官はヘスビー・ホルムに尋ねた。 「この現象は自殺と強く関連しています。したがって、誰もこれらのグループに対して報告したり何もしなければ、彼らは親、当局、そして彼らを助けることができる人たちに気づかれないことになるのです」と彼は非難する。
マネージャーによると、Meta はトラフィックとエンゲージメントを高く保つために、小規模なプライベート グループを管理していません。 「彼らがより大きなグループを穏健化しているかどうかはわかりませんが、問題は自傷行為グループが小規模であることです」と彼は主張する。
自傷行為に関連した1,200万件のコンテンツが削除された
欧州のデジタル サービス法では、ソーシャル プラットフォームに対し、未成年者に対する身体的または精神的な危険を表すコンテンツを特定して削除することが求められています。
「自傷行為を奨励するコンテンツは当社のポリシーに違反しており、このコンテンツを検出すると削除します。 2024年上半期に、インスタグラム上の自殺や自傷行為に関連した1,200万件以上のコンテンツを削除し、そのうち99％は積極的に削除された」とメタの広報担当者はガーディアン紙に語った。
「今年の初めに、当社はインスタグラムのティーンアカウントを立ち上げました。これにより、十代の若者たちは機密性の高いコンテンツ管理の最も厳格な管理下に置かれるため、機密性の高いコンテンツが推奨される可能性はさらに低くなり、多くの場合、このコンテンツは完全に非表示になります。」会社の約束。
#インスタグラムメタは節制方針にも関わらず自傷行為を強調研究を非難