政府は検察庁にAIによる児童ポルノ作成の疑いでX、Meta、Tiktokの捜査を要請する

すでに昨年1月、シラ・レゴ青少年児童大臣は州司法長官事務所に書簡を送り、次のことを要請した。 諜報活動を調査する Xの人工知能Grokは、児童に対する性的暴力の内容を広めた罪で起訴された。 Grok は、その画像編集機能を利用して「未成年者に対する性的暴力の素材」を生成するために使用されていました。これを使えば、実際の写真を剥がしたり、人々を性的な体位にさせるために写真を加工したりすることが簡単にできた。

デジタルヘイト対策センターが実施した調査によると、12月29日から1月8日までだけで、GrokはAIを使って本物の写真から300万枚のリアルな性的画像を作成するために使用された。その中には23,000人の子供も含まれています。実業家でありソーシャルネットワークの所有者でもあるイーロン・マスク氏は、いくつかの国で罰金を科せられると脅された後、画像編集ツールへのアクセスを制限することを決定した。 有料会員へ。このスキャンダルを受けて、欧州委員会も昨年1月にXに対する調査を開始した。

犯罪

スペインでは、2024年にバダホス少年裁判所で、人工知能を使用して少女や青少年の画像を操作したとして数人が有罪判決を受けた判決がある。この決議は、これらの行為をデジタル暴力の一形態として認識し、児童ポルノ犯罪として分類され、道徳的誠実性に反するものとみなしています。

請願書の検察庁への移送は、大統領自身が定義した「テクノ寡頭政治」に対するサンチェス氏の新たな闘いの一環である。行政当局が導入を望んでいる措置には、16歳未満の未成年者に対するソーシャルネットワークへのアクセスの禁止、デジタルプラットフォームに効果的な年齢確認システムの導入を強制すること、アルゴリズムの操作や違法コンテンツの増幅を犯罪として分類することなどが含まれる。サンチェス氏はまた、法律に違反したコンテンツや憎しみに満ちたコンテンツが削除されなかった場合、「プラットフォーム上で行われた違反に対する法的責任をマネージャーが負うことになるよう、マネージャーの不処罰を廃止する」ことも望んでいる。