1758464394
2025-09-21 13:30:00
19日のエミリー・シェラーによる
昨年10月、a ウィスコンシンの13歳の少年 彼のクラスメートの写真を使用して、コウモリのミツバを祝い、彼がスナップチャットで共有したディープフェイクのヌードを作成しました。
これは孤立した事件ではありません。過去数年にわたって、ありました 場合 後 場合 ディープフェイクを使用してクラスメートをいたずらまたはいじめている学齢期の子供たち。そして、それはより簡単になり続けます。
彼らがいつ オンラインで登場しました 8年前、ディープフェイクは最初は作るのが困難でした。現在、生成的人工知能を通じて、テクノロジーの進歩は、大衆にツールを提供しています。ここ、 19日 厄介な結果を強調します: 若いユーザーの間のディープファークアプリの有病率。
「5年か6年前に復venポルノ全般について話していたら、多くの犯罪者が未成年であることを発見したとは思わない」と、ロヨラメリーマウント大学の法学教授であるレベッカデルフィーノは述べた。
連邦および州議会議員は、「復venポルノ」と呼ばれることもある非同意的な親密なイメージ(NCII)の虐待の惨劇に取り組むことを目指しています。 支持者は以前の用語を好むが。少なくとも本物の画像のために、親密な画像の非同意的な分布を犯罪化する法律は有効です 米国のすべての州とワシントンDC、そして先月、ドナルド・トランプ大統領は同様の措置に署名しました、 Take it Downとして知られています。
しかし、連邦政府とは異なり、州法の多くは明示的なAIに生成されたディープフェイクには適用されません。ディープフェイクの虐待の加害者がしばしば未成年であるという事実に直接取り組んでいるように見える人は少ない。
学生の15%が、同級生のAIに生成された明示的な画像について知っていると報告した、 調査によると 9月に、左のシンクタンクである民主主義技術センター(CDT)によってリリースされました。学生はまた、女の子が明示的なディープフェイクで描かれる可能性がはるかに高いと報告しました。
CDTによると、調査結果は、「本物とディープファークの両方のNCIIがK-12公立学校で重要な問題である」ことを示しています。
「私たちが従事している行為は、若者が常に互いにしてきた残酷さ、屈辱、搾取、いじめのパターンとそれほど違いはありません」とデルフィーノは言いました。 「違いは、その動作の一部を実行するためのテクノロジーの使用だけでなく、それが普及している容易さにあります。」
州および連邦レベルの政策立案者は、イメージに基づいた性的虐待の加害者に「ハードで速い」とされています、とデルフィーノは言いました。その理由は明確である、と彼女は言った:非同意的な画像の分布は、虐待の標的に長期にわたる深刻なメンタルヘルスの害をもたらす可能性がある。
犠牲者は、非同意的なイメージの有病率のために、オンラインで生活から撤退することを余儀なくされる可能性があります。画像ベースの性的虐待があります 同様のマイナスメンタルヘルスの影響 オフリンの性的暴力を経験した人々としての生存者について。
デルフィーノは、ほとんどの既存の法律の下では、若者の犯罪者は他の犯罪を犯した未成年者と同様に扱われる可能性が高いと述べた。
しかし、一部の州では、加害者の年齢を彼らの罰に課す刑法を策定していますが、初めてまたは若者の犯罪者を投獄から救おうとする段階的な罰則を課すことを含めますが、ほとんどはそうではありません。ほとんどの人は、若者の犯罪者に結果があるはずですが、それらの結果がどうあるべきかについてのコンセンサスは少なくなり、極端な告発に対する再教育の推進があります。
刑務所の時間は答えと質問を提供します
a 2017年の調査 オンライン虐待と闘う非営利団体であるサイバー公民権イニシアチブ(CCRI)により、イメージに基づいた性的虐待を犯した人々は、犯罪に対する最も強い抑止力の1つとして刑務所時間の脅威を報告したことがわかりました。そのため、組織の政策勧告は常に犯罪化を求めてきた、とジョージ・ワシントン大学の法学教授であるメアリー・アン・フランクスは、イニシアチブを率いていると述べた。
多くの州 児童ポルノとして法的に知られているものを禁止する既存の法律を修正することにより、18歳未満の人々のディープフェイクをカバーするAIに生成された児童性虐待資料の問題に対処しようとしました。これらの法律は、より深刻な罰を受ける傾向があります。軽罪の代わりに重罪、最低刑務所の時間、または大幅な罰金です。例えば、 ルイジアナは、最低5年の刑務所刑を義務付けています 加害者の年齢に関係なく。
ピアオンピアのディープフェイクの虐待の事件はますますニュースで現れていますが、若者の犯罪者が直面した犯罪的結果に関する情報は依然として不足しています。
多くの場合、未成年者の請求方法にはかなりの量の裁量があります。一般的に、少年の正義 連邦法ではなく州に該当します、地元の役人に、適切と思われる罰を課すために余裕を与えます。
地元の検察官が、マサチューセッツ州の性的虐待と戦っているマサチューセッツ州の非営利団体である十分な虐待のコミュニケーションコーディネーターであるリンジー・ホーソーンは、地元の検察官が未成年者に告発するか、訴追を目的とした重度の罰則を訴えるか、ほとんどが後者を選ぶことを強いられた場合、ほとんどの人が後者を選択する可能性が高いと述べた。しかし、これは若者に自分の行動の結果について教える機会を捨て、再負担を防ぎます。
検察官の裁量で来る告発は、色とLGBTQ+の若者の若者を不釣り合いに犯罪にする可能性が高いと彼女は言った。
投獄への別のアプローチ
デルフィーノは、理想的なケースでは、少年裁判所の裁判官は判決において多くの要因を比較検討すると述べた:ディープフェイクの虐待、加害者の意図、青年心理学によって引き起こされる害の深刻さ。
専門家は、これらの要因を政策に直接構築することで、自分の行動の結果を理解していないかもしれない犯罪者との対処に役立ち、害を引き起こそうとしていないと言う人々のためのさまざまな執行メカニズムを可能にすると言います。
たとえば、最近の法律はこのセッションを通過しました サウスカロライナ そして フロリダ 年齢、意図、以前の犯罪歴などの状況を考慮に入れる「比例罰則」があります。両方の法律 ミラー化されたモデル法 Myown Imageによって書かれました。これは、技術が促進した性的暴力の防止に専念する非営利団体です。
画像ベースの性的虐待サバイバーによって設立されました スザンナ・ギブソン、組織は、州レベルでの親密な画像の非同意的な分配を禁止する強化法を提唱することに関与しており、刑事司法改革のレンズを議論に導いています。
の下 フロリダ州の法律、5月22日に実施された、非同意の親密な画像分布から利益を得た犯罪者は、たとえ最初の犯罪であっても、重罪で起訴されます。しかし、親密な画像を使用して被害者に嫌がらせをした最初の犯罪者は、軽罪で起訴されます。彼らが再びそれをするならば、彼らは重罪で起訴されます。これは、「自分の行動によって引き起こされた害を完全に理解していない可能性のある人々の掃引犯罪化を避ける」と、Myown ImageのマネージングディレクターであるWill Riveraは声明で述べた。
サウスカロライナ州の新しく可決された法律 一方、AIに生成された子どもの性的虐待資料に対処すると、以前の関連する犯罪歴のない未成年者は家庭裁判所に紹介されるべきであると明示的に述べており、裁定の一部として行動健康カウンセリングを推奨しています。
別のサウスカロライナ 親密な画像の非同意的な分布を禁止する法律 また、意図と以前の有罪判決に応じて段階的な料金があります。
犯罪を超えて
専門家は、若者の犯罪者を投獄することで、イメージに基づいた性的虐待の問題を解決しないと信じて、ほとんど団結しています。
フランク氏によると、彼女のグループは答えの一環として長い間刑事罰を推奨していますが、刑務所の時間を脅かすよりも、若者の犯罪者向けの政策解決策が必要であると述べました。
Common Sense Mediaの技術政策擁護の責任者であるAmina Fazlullahは、NCIIと虐待的なディープフェイクを犯罪化する法律には、デジタルリテラシーとAI教育措置を伴う必要があると述べました。
それは大きなギャップを埋める可能性があります。スタンフォードによると、現在 包括的な研究ではありません オンラインの搾取について生徒に具体的に教える学校の数。
ほとんどの十代の若者たちは犯罪コードに遅れをとっていないため、AIリテラシー教育のイニシアチブは、若いユーザーに違法行為にラインを越えているものを教えることができ、非同意の親密なイメージの犠牲者に救済を求めるリソースを提供することができます。デジタルリテラシーは、テクノロジーの倫理的使用を強調し、アプリの使用に関する会話のためのスペースを作成することもできます。
ホーソーンはそれを指摘した マサチューセッツ州の法律はディープフェイクを禁止しています、昨年施行された青少年に、法律とセクスティングの影響を説明する教育プログラムに参加するように違反する青少年に指示します。
最終的に、フランク氏によると、ディープフェイクの虐待の根底にある行動は新しいものではないため、回答をゼロから書き直す必要はありません
「私たちは、私たちが知っていることに固執する必要があります。テクノロジーでは変わりません。それは、同意、自律性、代理店、安全性です。これらはすべて、子供たちと話すことの中心にあるべきものです」と彼女は言いました。
禁欲のみの教育のように、セクスティングのようなより一般的な慣行について子供たちを恥じたり怖がらせたりする学校は、虐待を防ぐための効果的な方法ではない、とフランクスは言った。
フランクは、両親も写真を撮るたびに自分の画像に子供の代理店に植え付ける力を持っていると指摘しました。
彼女はまたあると言った 他の無数の方法 性的に明示的なディープフェイクを中心に生態系を規制する。結局のところ、ディープフェイクに関するほとんどのポリシーは、すでに行われた害に対処しています。 被害者に負担をかけます オンラインプラットフォームから画像の削除をリクエストする。
問題に対処することの一部は、非同意のイメージを作成して迅速に配布することをより困難にし、子供の手からディープフェイクのためのツールを維持することです。
支持者が見るための1つの道は、非同意のディープフェイクを作成するためにツールが使用されている企業に圧力をかけることです。
それらを配布するのに役立つ第三者もターゲットになりつつあります。後 CBSニュース調査、メタは、プラットフォーム上のいわゆる「Nudifyアプリ」の広告を削除するために行動を起こしました。フランクはまた、アプリストアがそれらを廃止できることを提案しました。
支払いプロセッサも、エコシステムに対して多くの力を持っています。 Visa、MasterCard、および発見した場合、PornHubへの支払いを断ち切る Damning New York Timesレポート 世界最大のポルノサイトである、それがホストした非同意的なビデオの数を明らかにしました 確認できなかったものはすべて削除されていました – 総コンテンツのほぼ80%。
先月、Civitai 最後にひび割れた 支払いプロセッサが会社との連携を拒否した後、実在の人々を中心に調整された生成AIモデルについて。これが続いた 広範なレポート Tech News Site 404メディアは、非同意のディープフェイクの広がりにおける画像プラットフォームの役割に関するものです。
そしてもちろん、フランクスは、デジタルサービスが楽しむ責任保護を刷新すると言った セクション230の下 責任に関しては、ハイテク企業の手を強制することができ、デジタル性暴力の防止についてより積極的に積極的になることができます。
#子供たちはお互いに深い舞台を作っていますそして法律は追いついていません #ボルチモアサン