人工知能、オンライン児童犯罪の憂慮すべき新兵器

この現象は、 生成型 AI の民主化 2022年から2023年の岐路に立つ。ほとんどの消費者向けソフトウェアには特定の用語の使用に制限があり、これらの作成は不可能ですが、ダークウェブ経由でアクセスできる他のソフトウェアには当てはまりません。 「数年以内に、インターネット上に流布される児童犯罪画像の 95% は人工知能によるものになるだろう」と、この戦いに特化した司法警察機関である未成年者事務所 (Ofmin) の所長であるガブリエル・ハザンは 7 月に強調した若者に対する暴力に反対、フランス・インテルで。

たとえこれらがモンタージュであっても、そのような画像の大量配布は「児童の犯罪行為の矮小化と児童の対象化に寄与するため深刻である」と児童財団の権利擁護責任者であるアンジェール・ルフラン氏は強調した。このテーマに関する研究を行い、その結論を火曜日の報告書で発表した。

児童ポルノコンテンツの急増は「ますます過激で露骨で暴力的な画像を伴い、消費者の中毒性のある行動を増加させている」と報告書の要約は示している。

行動に出るリスク

児童ポルノコンテンツの安易な消費 行動に出るリスクが高まる。 「このコンテンツを閲覧する人々のプロフィールと動機は非常に異なりますが、アクションが発生した場合、非常に多くの場合、以前に閲覧が行われています」とアンジェル・ルフラン氏は説明します。少年局は、事件の 40% で、児童ポルノ コンテンツの閲覧が児童に対する行為につながったと推定しています。

児童財団は、政治、法律、技術関係者に対し、「強力かつ迅速かつ協調的な対応」を講じるよう呼びかけている。主な「問題点」: 人工知能は「絶えず進化」しており、「児童向けの犯罪コンテンツを消費する人々は、新しいテクノロジーに非常に敏感で、すぐにそれを利用しています」とアンジェル・ルフラン氏は説明します。

児童財団は一方で、一般の人々の意識を高めることを推奨しています。 「人々はそのことに気づいていない 水着を着た子供の写真 ソーシャルネットワーク上で公開されたデータは、児童ポルノ目的で人工知能を訓練するために使用される可能性がある」と権利擁護担当者は説明する。

法的枠組み

同財団はまた、未成年者を描いた性的なモンタージュの作成を罰するために刑法を改正するよう公的当局に求めている。現在、この問題に関する「法的空白」により、「慣行が激化する」ことになっている。

児童ポルノの画像やビデオの急増によるもう 1 つの影響は、法執行機関がこのコンテンツに登場する性暴力の実際の被害者である子供を特定し、保護することがより困難になることです。

7月に発行されたユーロポールの報告書は、AIによって生成された小児犯罪コンテンツが「近い将来の主要な問題」になるだろうと指摘した。 「これは、被害者の身元確認と捜査の法的枠組みの両方において、専門サービスにとって大きな課題となっている」と欧州機関は強調した。