オンラインで子供の安全をどのように確保できるでしょうか?

これまでの話: 2月初旬、メタの最高経営責任者（CEO）マーク・ザッカーバーグは、議会公聴会で子供たちがオンラインの略奪者の被害者となった親たちに公開の謝罪を行ったが、これはメタだけでなく、X、TikTok、Snapchat、Discordを含む他のテクノロジー大手に対しても敵対的であると言える。 。 ビッグテックとオンライン児童性的搾取危機の公聴会は、「オンライン児童性的搾取という疫病を調査し、調査する」ために召集されたと伝えられており、その幹部全員がソーシャルメディアプラットフォーム上で児童を保護する責任を放棄することに釘付けになった。

オンラインにおける子供の安全にはどのような問題がありますか?

ハイテク大手は、プライバシーへの懸念だけでなく、オンラインユーザーのセキュリティに関しても、世界中で抗議活動の大渦の真っただ中にいることにますます気づいている。 世界中で、親や活動家たちは、ハイテク企業に責任を負わせるか、子供や若者のユーザーに「安全な設計」のプラットフォームを提供させるという議題を積極的に進めている。

昨年のユニセフの報告書「メタバース、拡張現実、そして子供たち」では、仮想環境がどのように進化するのか、またそれが子供や若者にどのような影響を与える可能性があるのかについて分析を試みました。 これらのテクノロジーは、教育や健康の分野など、子供たちに多くの潜在的な利益をもたらします。

リスクは重大ですか?

子どもに対する潜在的なリスクは重大であると報告書は指摘している。 「これらには、生々しい性的コンテンツへの暴露、いじめ、セクシャルハラスメント、虐待などの安全上の懸念が含まれており、没入型の仮想環境では、現在のプラットフォームよりもより「現実的」に感じられる可能性があります。」 さらに、非言語的行動に関するデータを含む膨大な量のデータが収集されるため、少数の大手テクノロジー企業が超個人化されたプロファイリング、広告、監視の強化を促進できる可能性があり、子どものプライバシー、セキュリティ、その他の権利や自由に影響を与えます。

メタバースが約束する代替現実への完全な没入はまだ実現していませんが、完全に没入型ではなく、その世界に対処する際の危険を示唆する仮想環境やゲームが複数存在します。 たとえば、トゥリル児童性的虐待予防・治癒センターのプログラムコーディネーターであるサンヌティ・スレシュ氏は次のように説明しています。 「売春婦に近づき、何度も叩く」。 現在、青少年は成人版を選ぶ可能性が高い。 私たちは子供たちにどんなメッセージを送っているのでしょうか？」 さらに最近では、子供たちが人工知能を使用してわいせつな児童虐待画像を生成しているという報道がメディアであったと付け加えた。

次に、メンタルヘルスの側面もあり、子供たちはオンラインでのトラウマ、勧誘、虐待の可能性に直面しており、現実世界でも生活に影響を与える深い心理的傷跡を残す可能性があります。 オンラインでの無害で無邪気な画像の共有も、堕落した捕食者によって歪められる可能性があります。 子どもたちがオンラインで共有する情報を保護するには、エンドツーエンドの暗号化が不可欠であるとスレシュ氏は指摘します。

生成 AI の到達範囲についてはどうですか?

ダボス世界経済フォーラムは昨年の論文で、生成型AIが宿題の支援、難しい概念のわかりやすい説明、子供の学習スタイルや学習速度に適応できるパーソナライズされた学習体験などの潜在的な機会をもたらすと説明した。 「子供たちはAIを使って芸術を創作したり、音楽を作曲したり、物語やソフトウェアを書いたりすることができ（コーディングスキルがまったくないか、あまりなくても）、創造性を養うことができます」と書かれています。 障害のある子供たちにとって、テキスト、音声、画像を通じて新しい方法でデジタル システムと連携し、共同創造できるため、世界が開かれます。

「しかし、生成型 AI は悪者によって利用されたり、子どもたちの将来や幸福を犠牲にして不用意に危害や社会全体の混乱を引き起こしたりする可能性もあります」と報告書には記録されています。 生成 AI は、人間が生成したコンテンツと区別がつかず、より説得力のあるテキストベースの偽情報を即座に作成することが示されています。 AI によって生成された画像は、現実と区別できない場合があります。 子どもたちは認知能力がまだ発達段階にあるため、誤った情報や偽情報のリスクに対して脆弱です。 人間のような口調を持つチャットボットとの対話が若者の心にどのような影響を与えるかについても議論があります。

オンラインで子どもの安全を守るために何ができるでしょうか?

主な責任は「設計による安全性」を組み込む必要があるテクノロジー企業の責任である、とスレッシュ氏は説明する。 議会公聴会の議事録から、これらの企業が自社のアプリやシステムが子供たちに悪影響を及ぼす範囲を十分に認識していることが明らかになった。

ユニセフは子どもの権利条約に基づいて、子どもの発達と福祉の支援、子どものデータとプライバシーの保護など、子ども中心の AI の 9 つの要件を列挙したガイダンスを提供しています。 ユニセフはテクノロジー企業に対し、メタバース環境および仮想環境内の子どものデータに既存の最高のデータ保護基準を適用することを推奨しています。

さらに、政府には、そのようなテクノロジーが子どもの権利を侵害しないように規制の枠組みを定期的に評価して調整する責任があり、オンラインでの有害なコンテンツや子どもに有害な行為に全力で対処する必要があります。

最終的には、スレシュ氏が指摘するように、子供たちを守るために現実世界に存在するすべてのルールがオンラインでも適用されるべきであるという前提から誰もが始めなければなりません。