AI がインターネットを再構築する中、どうすれば子どもたちの安全を守れるでしょうか?

AI ツールは、ゲーム、ソーシャル メディア、メッセージング、学校教育のすべてがオンライン プラットフォームを通じて実行されるなど、すでに生活が完全にデジタル化されている子どもたちの日常構造の一部になりつつあります。

ピュー・リサーチの調査によると、 10代の64% AI チャットボットを使用していると回答した人は 10 人中 3 人で、毎日チャットボットを使用していると回答しています。チャットボットに加えて、末っ子向けの就寝前のストーリーを生成するツールや、オンライン クイズの答えを表示するブラウザ拡張機能など、チャットボットがすでに直接依存しているアプリやフィードに埋め込まれた AI 機能もあります。。

安全対策、読み書き能力、ガバナンスが遅れているため、その普及のスピードは重要です。子どもたちは批判的思考、衝動の制御、社会的アイデンティティをまだ発達させている途中であり、不透明なシステム、説得力のあるデザイン、またはデータの実践を理解する能力があまりありません。 AI は、嫌がらせ、なりすまし、搾取などの身近なオンライン被害を増幅させると同時に、現実的な合成メディアから自動グルーミング、健全な境界を曖昧にする AI コンパニオンに至るまで、新たなリスクをもたらす可能性があります。

オーストラリアのランドマーク的なティーン向けソーシャル メディア 昨年末の禁止令は見出しを飾ったが、英国、シンガポール、スペインを含む他の政府も、プラットフォームに対する義務の強化や年齢保証に関する議論など、オンライン安全対策を次々と打ち出して対抗している。このテーマは、2026 年の世界経済フォーラム年次総会でも重要な議題となり、首脳らが議論しました。 ハイパーコネクテッドワールドにおける若者の幸福。

の グローバル リスク レポート 2026 オンラインでの危害は今後 2 年間で 12 位にランクされ、AI テクノロジーによる悪影響は今後 10 年間で 5 位にランクされ、テクノロジー関連のリスクの増大を浮き彫りにしています。メッセージはシンプルです。AI 時代における子どものオンライン安全は最優先事項です。

トラスト＆セーフティチームは、ネットいじめや嫌がらせ、身だしなみや誘惑、児童性的虐待（CSAM）、憎しみや過激主義、詐欺、自傷行為や性的コンテンツへの暴露など、子どもや十代の若者たちに影響を及ぼす一連の身近なオンライン被害と長年闘ってきた。変わったのは、AI が追加できるスピード、スケール、リアリズムです。

かつては技術的な専門知識が必要であったことを、現在では広く利用可能なツールを使用して個人が実行できるようになりました。生成 AI を使用すると、非常にリアルな画像を作成できるため、違法なコンテンツの作成と配布に対する障壁が低くなり、モデレーターや調査員がレビューしなければならないコンテンツの量が増加します。

変化の規模はすでに目に見えています。 Internet Watch Foundation (IWF) が報告した。 26,362% 上昇 児童性的虐待の写実的な AI ビデオには、2025 年の現実の認識可能な児童被害者が含まれることが多く、この素材の多くは本質的に過激であると警告しました。法執行機関も、 AI が生成した CSAM に応答する 流通ネットワーク。ただし、合成 CSAM では、実際の被害者の特定、元の情報源の追跡、緊急救助の優先順位付けが困難になる可能性があり、コンテンツが完全に AI によって生成された場合でも捜査が複雑になります。

データはまた、 オンラインでの誘惑と金融セクストーションの急増。 AI を活用した「ヌード化」ツールやディープフェイク ヌードは、普通の写真を性的な画像に変え、嫌がらせや屈辱を激化させており、その多くは学校内で女子生徒をターゲットにしています。 AI は、ピアのなりすましから露骨な画像の捏造に至るまで、これらのダイナミクスをよりスケーラブルにします。

AI システムは流暢、高速、役に立つように設計されており、これらの特性は権威のように見えることがあります。幻覚、過度の単純化、偏見の再現などのリスクがあるため、子供たちは次のような影響を受けやすい可能性があります。 会話型AIを過信する そして、共感のギャップや微妙な不正確さなどの制限を見逃す可能性があります。読み書き能力と批判的思考力がまだ発展途上にある子どもたちにとって、特に AI が家庭教師、検索エンジン、または信頼できる友人として扱われる場合、自信はあっても間違った AI の出力は、学習に誤解を与え、信念を形成し、意思決定を歪める可能性があります。

大きな変化は、明らかに社交的な友人、ロマンチックなパートナー、ロールプレイング キャラクター、疑似治療用チャットボットである AI コンパニオンの台頭です。 感情的 依存 コンパニオンチャットボットのリスクが増大しています。 AI コンパニオンは、特に年齢認証が弱く、システムがエンゲージメントに最適化されている場合には、若者にとって危険な組み合わせとなる可能性があります。

の事例 有害なチャットボットのやり取り 極端な場合には自殺を含む十代の若者の危機と関連があり、モデルの変更が引き金となることもある 友人を失うのと同じような喪失感。これは、特に未成年者が使用する製品が行動を形成し、強い愛着を育む可能性がある場合には、より強力な保護措置、効果的な危機対応手順、および明確な説明責任の必要性を強調しています。

AI は、既存の害を加速するだけでなく、これらのシステムの設計方法や経験方法に根ざしたリスクをもたらします。子どもたちは、やり取りが会話的で判断力のないものであると感じられる場合、機密性の高い詳細をより容易に開示します。 Web 検索とは異なり、チャットはメンタルヘルス、位置パターン、学校教育などの個人的な詳細を含む日記になる可能性があります。このリスクは、AI がプラットフォーム全体に組み込まれている場合や、インタラクションが保存、分析、またはシステムの改良に使用される可能性がある場合に増大します。

子どもや若者は AI 主導のインターネットの最前線で暮らしていますが、AI を考慮せずに構築されたシステムを操作するよう求められることがあまりにも多いのです。子どもたちの安全を守り、デジタル ツールの恩恵を受けられるようにすることは、保護者、教師、信頼と安全のチームだけが担うことはできません。

児童性的虐待の内容の特定と削除を支援する Internet Watch Foundation など、主要な組織が実践的な介入を推進しています。子ども中心のデジタル デザインを推進する 5Rights Foundation。 Tech Coalition は、オンラインでの児童の性的搾取に対する防止、検出、報告、クロスプラットフォームの連携を強化するために企業を結集させています。

大手プラットフォームやテクノロジー企業も投資を行っている 安全工具 デフォルトでより安全なエクスペリエンス 画像のハッシュ化 および検出テクノロジー、保護者による監視ツール、 十代の保護。一方、規制当局は、より強力な注意義務アプローチ、年齢に適した設計、信頼できる年齢保証をますます期待しています。 AI が日常のオンライン生活に組み込まれるにつれて、これらの取り組みは共に、子供たちにとってより安全なデジタル システムの構築に向けて進んでいます。

子どもたちのデジタル安全は社会全体の課題であり、協力が必要です。企業、政府、市民社会、学術界はそれぞれ、AI とオンライン サービスが、信頼できる安全対策、明確な説明責任、進化するリスクに対応する証拠に基づいたアプローチに裏付けられた設計で安全であることを保証する役割を担っています。同様に重要なのは、ルール、教育、保護が、彼らがオンラインでどのように生活し、学び、接続しているかの現実を反映するように、子供や若者をパートナーとして含める必要があるということです。

力を合わせて行動することで、AI が信頼や幸福を損なうことなく、代わりにすべての子どもたちの学習、創造性、機会を拡大するデジタル世界を構築できます。