同社によると、アラートは、10代の若者が自殺や自傷行為を促進するフレーズ、自傷行為を示唆するフレーズ、「自殺」や「自傷行為」などの用語を「短期間に数回検索」したときにトリガーされるという。トリガーされると、保護者は電子メール、テキスト メッセージ、または WhatsApp 経由で通知を受け取り、さらにアプリ内アラートも受け取ります。
通知には、彼らの十代の少年が短期間に自殺や自傷行為に関連する用語を繰り返し検索しようとしたことが記載されている。また、保護者がこの問題について話し合いに取り組むのを支援することを目的とした専門リソースへのアクセスも提供されます。
重要なのは、メタ社が、検索行動を分析し、自殺・自傷行為諮問グループに相談した結果、短期間に複数回の検索を必要とする閾値を選択したと述べたことだ。同社は、十代の若者がサポートを必要とする可能性がある場合に保護者に通知することと、過剰な警告を避けることのバランスを図っていると述べている。
Meta の 10 代のアカウントとは何ですか?
Metaは2024年9月にインスタグラムにティーン向けの専用アカウントを導入し、当初は米国、英国、カナダ、オーストラリアで展開し、2024年後半には欧州連合、2025年初頭にはその他の地域に拡大する予定だ。
2025 年 4 月、Meta は 10 代のアカウントのフレームワークを Facebook とメッセンジャーを含むように拡張し、再び同じ 4 か国で開始し、その後より広範囲に展開しました。これらのアカウントには、16 歳未満のユーザー向けに設計された自動保護機能と制限が含まれています。
コンテンツ コントロールに加えて、Meta には使用制限が組み込まれています。 Instagram のティーンは毎日 60 分間アプリを終了するようリマインダーを受け取り、スリープ モードにより設定された時間の間は夜間に通知がミュートされます。
保護者は、監視ツールを使用して、毎日の時間制限を設定したり、指定期間中のアクセスをブロックしたり、メッセージの内容を見ずに十代の子供が最近誰にメッセージを送ったかを確認したりすることができます。メタは、生年月日を変更しようとするユーザーに対し、これらの制限を回避して年齢を確認することを要求しています。同社は、身分証明書、自撮りビデオ、または18歳以上の相互フォロワーがユーザーの年齢を確認する「ソーシャル保証」を求めることでこれを行っている。
青少年のアカウント管理はどの程度効果的ですか?
Metaの内部告発者Arturo Béjar氏による2025年9月の報告書では、InstagramにおけるMetaの10代アカウント安全ツールの有効性に重大な弱点があることが判明した。研究者が宣伝されている 47 個の安全機能をテストしたところ、30 個は完全に失敗するか、簡単に回避されました。特に、十代の若者を自殺や自傷行為のコンテンツから守るために設計されたツールのパフォーマンスは低かった。
メタ社がそのような結果をブロックすると公約しているにもかかわらず、オートコンプリートの検索候補では依然として、「自分を傷つけたい」などのタイプミスを含む、摂食障害や自傷行為に関連する有害な用語が返されていた。さらに、「興味がない」とラベル付けされたコンテンツは、Instagramのアルゴリズムが同様の不快な動画を推奨することを妨げず、ユーザーが興味を示さなかった後もプラットフォームが有害なコンテンツをプッシュし続けたことを示唆しています。
報告書では、自殺や自傷行為の保護だけでなく、不適切な接触や強迫的な使用を抑制することを目的としたツールの欠陥も特定した。嫌がらせメッセージをフィルタリングする「Hidden Words」などの機能により、嫌がらせがフィルタリングされずに通過する可能性がありました。
同様に、「休憩」や「夜間のナッジ」など、いくつかの時間制限や使用量のリマインダーも効果がなかったか、廃止されました。しかしメタ氏は、この報告書は誤解を招き、「当社の安全ツールがどのように機能するかを誤って述べている」と述べた。
なぜこれが重要なのか
Meta の最新のアップデートでは、子供が危険にさらされている可能性があることを親にいつ通知するかを決定する自動システムの責任が大きくなりました。ただし、同社は「数回の検索」とは何なのか、また関連する期間がどれくらい短いのかについては明らかにしていない。
これらのしきい値や段階的なトリガーが明確でなければ、親や政策立案者はシステムがどの程度敏感であるか (またはどの程度制限されているか) を評価できません。特にメタ社の既存の青少年保護策が意図したとおりに機能するかどうかに関する過去の質問を考えると、透明性の欠如は問題である。
さらに、企業は、危険な行為がいつエスカレーションに値するかを判断するために、社内のしきい値にますます依存しています。カナダでは、最近ブリティッシュコロンビア州で起きた学校での銃乱射事件を受けて、当局がOpenAIに対し、安全閾値をどのように設定し、適用しているかについて質問した。
Meta が AI チャットにも同様の保護者向けアラートを導入する準備を進めているため、エスカレーション基準をどのように明確に説明しているか、またそれらのシステムが実際にどのように一貫して機能するかに注目が集まることになるでしょう。
購読してジャーナリズムをサポートしてください
あなたのために
#メタ10代の若者がインスタグラムで自殺を検索したら親に警告へ