ディープフェイクやデジタル暴力から子供たちを守る

性的ディープフェイクに関する現在の議論を背景に、ユニセフドイツは、デジタル空間における保護のギャップが、特に子どもたちをいかに危険にさらしているかに注目を集めている。ユニセフは、これらおよびあらゆる形態のデジタル暴力から子供たちをよりよく守るために、保護措置、教育、予防の強化を求めています。

AI によって生成されたオンライン上の子供の性的画像の数は急速に増加しています。ユニセフと 11 か国のパートナーによる調査によると、2025 年だけで少なくとも 120 万人の子供たちが ディープフェイク-ミスブラウフ 影響を受ける。一部の国では、統計的平均は 1 人の子供の画像でした 平均的な学校のクラスあたり 性的に露骨なディープフェイクに加工された。

「偽の画像、実際の被害 – ディープフェイクの虐待は虐待であり、子供たちに恐ろしい結果をもたらします。子供たちはデジタル空間においても、より効果的な保護を緊急に必要としています」とユニセフドイツのマネージングディレクター、クリスチャン・シュナイダー氏は述べています。 「ドイツでは、AIで生成されたかどうかに関係なく、児童ポルノ素材の所持と配布が一般に法律で処罰されるのは良いことであり、正しいことです。しかし、経験が示しています。この素材が発見され削除されるまでに、すでに子供たちに多大な損害が与えられており、多くの場合、生涯にわたる影響を及ぼします。したがって、児童虐待の性的な描写がそもそも生成され、流布されないことが重要です。」

人工知能により、性的虐待画像 (CSAM) の作成がはるかに簡単になりました。加害者は無料で利用できる AI ツールを使用して、子供の写真から衣服を削除し、偽のヌード画像を作成します。このように子供のイメージを悪用する人は誰でも、その子供に直接害を与えていることになります。しかし、特定の子供が特定されなかったとしても、そのような描写は深刻な結果をもたらします。それらは子供に対する性的暴力を常態化し、虐待的な素材の需要を煽り、法執行機関が実際の事件を特定して助けを必要とする子供を保護することをより困難にします。

子どもたちと若者は、チャンスはあるものの、権利、保護、福祉がまだ整っていないデジタル世界で育っています。ドイツを含め、世界中でより強力なデジタル児童保護を求める声が高まっています。ディープフェイクに加えて、偽情報、ネットグルーミング、ネットいじめ、ヘイトスピーチ、暴力描写やチャットボットへの精神的依存などの有害なコンテンツによっても、子どもの保護におけるリスクとギャップが生じます。子供や若者はオンラインで多くの時間を費やしていますが、若者の 41% はデジタル スキルをほとんど持っていません。これは、ドイツの子どもたちの状況に関するユニセフ報告書のデータによって示されています。

ユニセフの観点からは、ヨーロッパレベルでの緊急の行動も必要です。デジタル企業に自社製品の不正行為を自主的に発見、削除、報告する法的根拠を与える免除措置は4月3日に失効する恐れがある一方、より長期的な法的枠組みについては依然として政治的に集中的に交渉が行われている。ユニセフはEU国会議員に対し、現在の暫定協定の一時延長を支持するよう呼び掛けている。

ユニセフはデジタル児童保護のための包括的な保護コンセプトを推奨しています。 の 予防、保護、および支援措置を統合します。

• 企業に責任を持たせる: デジタル企業は、最初から子供向けの安全性を製品に組み込み、誤用に対する効果的な保護メカニズムを構築する必要があります。ユニセフは、一部の企業がすでにこの取り組みを行っているという事実を歓迎していますが、状況は依然としてまだらです。プラットフォームは、影響を受けた人が虐待を報告した後ではなく、直ちに虐待の描写を認識して削除する必要があります。年齢に応じたデザインと機能するレポート システムが標準でなければなりません。

• 法的枠組みを強化します。 法律は影響を受ける子供たちを効果的に保護し、法執行機関のギャップを埋めなければなりません。当局は、たとえ国境を越えても、インターネットから虐待の画像を迅速に削除するのに十分なリソースを必要としています。これには、とりわけ、刑法のギャップを埋めるために連邦法務省が提案した法案や、連邦および州の予算を通じて確保される公務および教育事業への資金提供が含まれる。ユニセフは、オンラインでの子どもと若者の権利を確かな科学的根拠に基づいて強化するために、デジタル児童と青少年の保護に関する独立委員会からの報告書を待つことを推奨しています。

• 子どもたちを強め、サポートする: デジタル メディア教育は、すべての教育機関の分野を超えて定着する必要があります。教育スタッフと保護者には、対象を絞った資格が必要です。オンラインで暴力やいじめを経験している子どもたちは、青少年の福祉や心理的サポートにつながる信頼できる連絡先を必要としています。

• 子どもたちを参加させる: 子どもや若者の視点や経験は、政治的決定や規制に組み込まれなければなりません。国連子どもの権利条約に従って、子どもの福祉は一貫して優先されなければなりません。

• 年齢制限のバランスを整える: ソーシャルメディアの年齢制限はセキュリティを強化できますが、それは構成要素の 1 つにすぎません。それらは比例的である必要があり、子供たちを教育サービスや支援サービスから排除してはならず、技術的な保護メカニズムによって補完される必要があります。

背景

ユニセフドイツは、連邦政府が設置した「デジタル世界における子供と若者の保護のための独立専門家委員会」に詳細な声明を提出した。この委員会の目的は、連邦政府、州、市民社会に対する具体的な行動勧告を含む戦略を策定することです。声明はここでご覧いただけます。デジタル児童保護に関するユニセフドイツの立場は、政策文書「デジタル世界における児童と青少年の保護」のコンパクトな要約にも記載されています。

ユニセフについて

ユニセフは、ドイツを含む世界中で、すべての子どもの権利を実現するために活動しています。詳細情報: ドイツおよび世界の子どもの権利 |ユニセフ

#ディープフェイクやデジタル暴力から子供たちを守る