科学＆テクノロジー

女性や少女の服を脱がすAI駆動型ディープフェイクサイトが画期的な訴訟に直面

サンフランシスコ当局は、人工知能を使って服を着た女性や女児の画像を「脱がす」人気のディープフェイクウェブサイトに対して画期的な訴訟を起こした。 市検察局は、最も閲覧数の多いAI「脱衣」サイト16件を訴えている。訴状によると、これらのサイトへの訪問回数は2024年上半期だけで合計2億回を超えたという。 これらのウェブサイトでは、ユーザーが実際に服を着た人物の画像をアップロードすることができ、AI がそれを「脱がせて」偽のヌード画像に変換します。 サンフランシスコ市検事デビッド・チウ氏は木曜日、画期的な訴訟でディープフェイクヌードウェブサイト運営者16名を訴えると発表した。 AP 「[I]彼女をデートに誘って時間を無駄にするのは、 [our website] 訴状によると、ディープフェイクサイトの一つは「彼女のヌード写真を入手するために」と述べている。 訴状によると、ディープフェイクヌードは同意なしに作成され、カリフォルニア州や全米各地の女性や少女を脅迫、いじめ、恐喝するために使用されているという。 「今回の捜査はインターネットの最も暗い隅にまで踏み込んだ。この搾取に耐えなければならなかった女性や少女たちのことを思うと、本当に恐ろしい」とサンフランシスコ市の弁護士デビッド・チウ氏は声明で述べた。 「これは社会として私たちができるだけ早く解決しなければならない大きな多面的な問題だ」と彼は語った。 訴状によると、「脱衣」サイトはリベンジポルノ、ディープフェイクポルノ、児童ポルノを禁止する連邦法と州法に違反しているという。 訴訟では、被告らが「消費者に与える損害が、こうした行為に伴う利益を大幅に上回る」ため、カリフォルニア州の不正競争法にも違反したと主張した。 市検察局は、民事罰とディープフェイクウェブサイトの削除、さらにサイト所有者が将来的にディープフェイクポルノを作成しないようにする措置を求めている。 この訴訟は2024年2月の事件を参照しており、 カリフォルニア州の中学校から生徒5人が退学処分を受けた AIが生成した中学2年生16人のヌード画像を作成し、共有した後。 ディープフェイクには、歌手ケイティ・ペリーがメットガラに出席する様子が映っている。 ケイティペリー/インスタグラム 訴状によると、ディープフェイクヌードの被害者は「自分に何が起こったのか、自分の体に何が起こったのか、選択の余地がなかったように感じる」と述べた。 別の女性は、自分と家族は「いつこのような画像が再び現れ、無数の人々に見られるかもしれないという絶望と絶え間ない恐怖」の中で暮らしていると語った。 この訴訟はディープフェイクヌードジェネレーターに正面から取り組んだ初めての訴訟だ。 AI 業界が成長するにつれ、ディープフェイク、つまり AI によって生成され操作された画像がより主流になってきました。 AI によって生成された画像は、誤った情報を瞬く間に広めてしまうことがよくあります。 2023年、教皇のディープフェイク画像がソーシャルメディアのユーザーを混乱させたが、メディアはそれがAIによって作成されたものであることを確認した。 AP あ 白いバレンシアガのパファージャケットを着たフランシスコ教皇のディープフェイク 2023年に話題になったこの話は、ニュースメディアが報道し始めるまで多くの人が真実だと信じていた。 しかし、ディープフェイクは往々にして悪意のあるものになります。 マイクロソフトとグーグルの検索エンジンの検索結果の上位に、偽の子供のヌード画像が表示されたという。 3月のNBCニュースの報道。…