科学＆テクノロジー

オーストラリアの学校の生徒が使用する「Nudify」サービス、eSafetyコンプライアンス措置の後にブロックされる

オーストラリア人は、クラスメートの偽のヌード画像を作成する学生など、児童の性的搾取資料の生成に関連する3つの人気のある「ヌード化」ウェブサイトへのアクセスをブロックされる。 現実の人物の写真をアップロードし、被写体をヌードに見せるために人為的に変更できる、世界で最も広く使用されているサービスの一部を運営している英国に本拠を置くこの企業は、eSafety Commission による強制措置を受けて、オーストラリアでのアクセスを撤回した。この行為の証拠は、同社が児童性的虐待の内容に取り組むためにオンライン業界のすべてのメンバーに「意味のある措置を講じる」ことを義務付けるオーストラリアの強制的な規範と基準を破っていることを意味しました。シドニーの高校生が女子生徒の露骨なディープフェイクを作成したとされるシドニーの高校3年生が、同級生のあからさまなディープフェイクポルノ画像を作成した疑いでニューサウスウェールズ州教育省から警察に送致された。eSafetyコミッショナーのジュリー・インマン・グラント氏は、「無効化」サービスがオーストラリアの学校で「壊滅的な影響」をもたらすために使用されていたと述べた。「この大手プロバイダーがオーストラリア人による利用をブロックしていることで、AIが生み出した児童性的搾取の被害に遭うオーストラリアの学童の数に目に見える影響があると我々は考えている」と彼女は述べた。インマン・グラント氏は、eSafetyが9月に英国の企業に対して措置を講じたのは、同社のサービスが不正コンテンツの生成に利用されるのを防ぐための安全措置を講じなかったためだと述べた。彼女によると、同社は「『どんな女の子でも』服を脱ぐことができ、『女子高生』の画像生成のオプションや『セックスモード』などの機能」などの機能もマーケティングしていたという。ジュリー・インマン・グラント氏は、この憂慮すべき傾向を止めるには「文化的変革」が必要だと語る。 （ABCニュース：クレイグ・ハンセン）インマン・グラント女史はABCに対し、ディープフェイク画像に基づく虐待の報告は過去18カ月で倍増したが、これは「氷山の一角」に過ぎないと信じていると語った。「これらの事件の多くで私たちが目にしているのは、彼らが引き起こしている長期にわたる害や屈辱、中傷の種類を実際には理解せずに、ソーシャルメディアなどからクラスメートの女子生徒の写真を収集し、性的なビデオを作成するのはちょっとした笑い話だと考えている10代の少年たちだ」と彼女は語った。インマン・グラント女史は、「文化的変化」を生み出し、憂慮すべき傾向を阻止するための統一的な取り組みが必要だとの見解を述べた。「私たちは、デジタル被害が現実の被害であり、人々に長期的に重大な影響を与えるということを本当に強調できるよう、同意教育と敬意を持った関係教育を補完する必要がある」と彼女は述べた。裏切り誰かが何年もかけてハンナ・グランディのディープフェイクポルノをオンラインに貼り付けた。それは彼女の人生を一変させる裏切りでした。インマン・グラント氏は、eSafetyにはそのような画像の「武器化」を防ぐために親や若者ができることについて多くの情報があると述べた。eSafety は、児童の性的搾取素材を生成するために使用できる強力な AI モデルのいわゆるゲートキーパーとして、従来のアプリ ストアのように機能するサービスもターゲットにしています。ホスティング プラットフォームの 1 つである Hugging Face は、利用規約を変更しました。そのため、すべてのアカウント所有者は、アップロードするモデルに関連するリスクを最小限に抑えるための措置を講じることが求められます。特に、児童の性的搾取素材やテロ支援素材を生成するための悪用を防ぐためです。 #オーストラリアの学校の生徒が使用するNudifyサービスeSafetyコンプライアンス措置の後にブロックされる