AIが生成した児童虐待画像が拡散中

Facebook で見た学校初日の写真を改変して、女子グループがヌードに見えるようにした児童精神科医。米陸軍兵士が、知人の子供たちが性的虐待を受けている様子を描いた画像を作成したとして告発された。非常にリアルな性的に露骨な子供の画像を生成する責任を負ったソフトウェア エンジニア。

米国中の法執行機関は、本物の子供の加工された写真からコンピュータで生成された子供の生々しい描写まで、人工知能技術によって作成された児童性的虐待画像の蔓延を取り締まっている。司法省当局者らは、AIツールを悪用する犯罪者を積極的に追及していると述べる一方、各州は「ディープフェイク」やその他の子どもの有害な画像を作成した人々を法律に基づいて訴追できるよう急いでいる。

司法省の児童搾取・わいせつ部門を率いるスティーブン・グロッキ氏は、「我々は、これが犯罪であり、証拠が裏付けられる場合には捜査され起訴されることを、早期に、そして頻繁に知らせなければならない」と、ザ・紙のインタビューで語った。 AP通信。 「もしあなたがそこに座って違うことを考えているなら、あなたは根本的に間違っています。そして誰かがあなたの責任を追及するのも時間の問題だ。」

司法省は、こうしたコンテンツには既存の連邦法が明らかに適用されると述べ、最近、純粋にAIが生成した画像、つまり描かれている子供たちは現実ではなく仮想的な画像に関わる初の連邦訴訟と思われる訴訟を起こした。別の事件では、連邦当局が8月にアラスカ駐留の米兵を、AIチャットボットを通じて知人の実の子供の無実の写真を公開し、露骨な性的表現をした疑いで逮捕した。

テクノロジーに追いつこうとしている

この訴追は、児童擁護団体が、不穏な画像の氾濫によって本当の被害者の救出が困難になる可能性があると当局が懸念し、テクノロジーの悪用を抑制するために緊急に取り組んでいる中で行われた。法執行当局は、捜査官が実際には存在しない搾取された子供たちを特定し追跡しようとして時間とリソースを浪費することになるのではないかと懸念している。

一方、議員たちは、AIが生成した「ディープフェイク」やその他の性的に露骨な子供の画像について、地方検察官が州法に基づいて告訴できることを確保する法案を立て続けに可決している。国立行方不明・搾取児童センターの調査によると、今年十数州の知事が、デジタル的に作成または改変された児童性的虐待画像を取り締まる法律に署名した。

カリフォルニア州ベンチュラ郡地方検事のエリック・ナサレンコ氏は、「率直に言って、我々は法執行機関として、我々よりもはるかに早く進歩しているテクノロジーに追いつきつつある」と語った。

ナサレンコ氏はギャビン・ニューサム知事が先月署名した法案を推進し、AIが生成した児童性的虐待コンテンツはカリフォルニア州法では違法であることを明確にした。ナサレンコ氏は、カリフォルニア州の法律により、画像が本物の子供を描いたものであることを証明することが検察官に求められていたため、彼の事務所は昨年12月から9月中旬までの間にAI生成コンテンツに関連した8件の事件を起訴できなかったと述べた。

AIが生成した児童性的虐待画像は、子どもの手入れに利用される可能性があると法執行当局は述べている。また、身体的虐待を受けていなくても、子供たちのイメージが性的に露骨に見えるように変形されると、子供たちは深刻な影響を受ける可能性があります。

「自分の一部が奪われてしまったように感じました。身体的には暴力を受けていないのに」と、ディズニー・チャンネルの番組「ジャスト・ロール・ウィズ・イット」に出演し、「ディープフェイク」画像の被害者となった後、カリフォルニア州法案の推進に貢献した17歳のケイリン・ヘイマンさんは語った。

ヘイマンさんは昨年、性行為を行っている身体に自分と他の子役の顔をデジタル合成した男の連邦裁判で証言した。彼は5月に懲役14年以上の判決を受けた。

ユーザーが自分のコンピュータにダウンロードできるオープンソースのAIモデルは、犯罪者に好まれていることが知られており、犯罪者はツールをさらに訓練したり改変したりして、露骨な子どもの描写を大量に作成できると専門家らは述べている。当局者によると、悪用者らはダークウェブコミュニティで、AIツールを操作してそのようなコンテンツを作成する方法に関するヒントを交換しているという。

スタンフォードインターネット天文台による昨年の報告書では、Stable Diffusion などの主要な AI 画像作成者のソースである研究データセットに、児童の露骨な性的画像へのリンクが含まれており、これが一部のツールが容易に作成できる一因となっていることが判明しました。有害なイメージ。データセットは削除され、研究者らはその後、そこから児童性的虐待の疑いのある画像への 2,000 以上のウェブリンクを削除したと発表した。

Google、OpenAI、Stability AIなどのトップテクノロジー企業は、児童性的虐待画像の拡散と闘うために反児童性的虐待団体Thornと協力することに合意した。

しかし専門家らは、この技術が広く利用可能になる前に、悪用を防ぐために最初からもっと対策を講じるべきだったと指摘している。そして、AIツールの将来バージョンの悪用を困難にするために企業が現在講じている措置は、犯罪者が「検出されずに」コンピュータ上で古いバージョンのモデルを実行することを「防ぐことにはほとんど役立たない」と司法省の検察官が最近の法廷書類で指摘した。

「製品の効率化ではなく、安全性を高めることに時間は費やされていませんでした。これまで見てきたように、事後的にそれを行うのは非常に困難です」とスタンフォードインターネット観測所の主任技術者デビッド・ティール氏は述べた。

AI画像がさらにリアルに

国立行方不明児童搾取センターの CyberTipline は昨年、AI テクノロジーに関連するコンテンツに関する報告を約 4,700 件受けました。これは、児童の性的搾取の疑いに関する合計 3,600 万件以上の報告のうちのほんの一部です。同グループの最高法務責任者であるヨタ・ソウラス氏によると、今年10月までに、同グループはAI関連コンテンツのレポートを毎月約450件提出していたという。

しかし、専門家らによると、画像は非常にリアルなので、AIが生成したものかどうかを見分けるのは難しい場合が多いという。

カリフォルニア州法案の作成に協力したベンチュラ郡地方検事代理のリコール・ケリー氏は、「捜査当局は、画像が実際に本物の未成年者を描いたものなのか、それともAIが生成したものなのかを判断するだけで何時間も費やしている」と述べた。 「以前は、明確な指標がいくつかあったと思われますが、AI テクノロジーの進歩により、それはもう当てはまりません。」

司法省当局者らは、連邦法に基づいてこうした画像の犯罪者を追及するための手段をすでに持っていると述べている。

米国最高裁判所は 2002 年に、バーチャル児童性的虐待素材に対する連邦政府の禁止令を打ち消しました。しかし、翌年署名された連邦法は、「わいせつ」とみなされる、性的に露骨な行為に従事する子供たちの絵を含む視覚的描写の制作を禁止した。司法省によると、この法律は過去にも児童性的虐待を描いた漫画を告発するために使われてきたが、特に「描かれた未成年者が実際に存在する」という要件はないと明記されている。

司法省は5月、ウィスコンシン州のソフトウェアエンジニアを告発し、AIツール「安定拡散」を使用して、性的に露骨な行為をしている子供たちの写実的な画像を作成したとして告発され、直接の連絡を通じて15歳の少年に画像を送信したとして逮捕された。当局によると、インスタグラムにメッセージを投稿したという。男性の弁護士は合衆国憲法修正第1条を理由に告訴を却下するよう求めているが、AP通信への電子メールでこの告発についてのさらなるコメントを拒否した。

Stability AIの広報担当者は、この男性は別の企業であるRunway MLがリリースしたツールの初期バージョンを使用した容疑で告発されていると述べた。 Stability AI は、モデルの独占的開発を引き継いで以来、「有害なコンテンツの作成のための AI の悪用を防ぐための予防的な機能に投資」していると述べています。ランウェイMLの広報担当者はAP通信のコメント要請にすぐには応じなかった。

本物の子供の写真をデジタル的に加工して性的に露骨にした「ディープフェイク」に関する事件で、司法省は連邦「児童ポルノ」法に基づいて告訴している。ある事件では、ノースカロライナ州の児童精神科医がAIを使用した。 Facebookで共有された数十年前の写真で、学校の初日にポーズをとっている少女たちをデジタル的に「服を脱ぐ」というアプリケーションは、昨年連邦罪で有罪判決を受けた。

「これらの法律は存在します。それらは使用されるでしょう。私たちには意志があります。私たちにはリソースがあります」とグロッキ氏は語った。 「実際の子供が関与していないからといって、これを無視するほど優先順位が低いわけではありません。」