バーバラ・オルトゥテイより
インスタグラムは木曜日、子供たちが明らかに自殺や自傷行為に関連する用語を繰り返し検索する場合、保護者に警告を開始すると発表した。アラートは、Instagram の保護者監視プログラムに登録している保護者にのみ送信されます。
Instagramはすでに、そのようなコンテンツが10代のアカウントの検索結果に表示されるのをブロックし、代わりにヘルプラインに誘導していると述べている。
この発表は、メタが未成年者に対する危害の罪で2件の裁判を受けている最中に行われた。ロサンゼルスで進行中の裁判では、メタプラットフォームが意図的に中毒を引き起こし、未成年者に害を及ぼすかどうかが疑問視されている。ニューメキシコ州では、メタ社が自社のプラットフォーム上で子どもたちを性的搾取から守ることに失敗したかどうかを調べようとしている。何千もの家族が、学区や政府機関とともに、メタ社やその他のソーシャルメディア企業を訴え、自社のプラットフォームが意図的に中毒性になるように設計されており、うつ病、摂食障害、自殺につながる可能性のあるコンテンツから未成年者を保護できていないとして主張している。
CEOのマーク・ザッカーバーグを含むメタ幹部は、プラットフォームが依存症を引き起こすことを否定している。ロサンゼルスの原告側弁護士の尋問に対し、ザッカーバーグ氏は、ソーシャルメディアが精神的健康に害を及ぼすことは既存の一連の科学的研究で示されていないとする自身の以前の声明に今も同意すると述べた。
アラートは、保護者の Instagram アカウントを介した通知に加えて、利用可能な保護者の連絡先情報に応じて、電子メール、テキスト メッセージ、または WhatsApp を介して送信されます。
「私たちの目標は、10代の子どもの検索結果からサポートが必要である可能性が示唆された場合に、保護者が介入できるツールを提供することです。また、これらの通知を不必要に送信することも避けたいと考えています。送信頻度が高すぎると、通知全体の有用性が低下する可能性があります」とメタ氏はブログ投稿で述べた。
また、子どもの人工知能との関わりについて、保護者向けに同様の通知を行う取り組みも進めていると付け加えた。
「これらは、10代の若者が自殺や自傷行為に関連する特定の種類の会話を当社のAIと交わそうとした場合に、保護者に通知するものです」とメタ氏は説明した。 「これは重要な作業であり、今後数か月間でさらに共有できることになるでしょう。」
___________________________________
この記事は、AP 編集者が生成人工知能ツールを使用して英語から翻訳したものです。