1706414986
2024-01-26 19:17:30
露骨な性的表現 AIが生成した画像 の テイラー・スウィフト 今週X（旧Twitter）上で拡散され、AIが生成するディープフェイクの作成と広く共有を阻止することがいかに難しいかを浮き彫りにした。
世界で最も有名なポップスターの偽画像は水曜日、ほぼ一日中出回り、削除されるまでに数千万回の再生回数を記録したとCNNが報じた。
他の大多数のソーシャルメディアプラットフォームと同様に、Xは「人々を欺いたり混乱させたり、危害をもたらす可能性のある、合成、操作された、または文脈から外れたメディア」の共有を禁止するポリシーを持っている。
スウィフトの名前を明示せずに、Xは声明で次のように述べた。 識別されたすべての画像を積極的に削除する そして、それらを投稿したアカウントに対して適切な措置を講じます。」
404 Media の報道によると、これらの画像は Telegram のグループから発信された可能性がありますでは、ユーザーは、Microsoft Designer で作成されることが多い、AI によって生成された露骨な女性の画像を共有します。 同グループのユーザーらは、スウィフトの画像がどのようにXで拡散したかについて冗談を言ったと伝えられている。
当時、「Taylor Swift AI」という用語もプラットフォームでトレンドとなり、画像をさらに宣伝し、より多くの人の目の前に押し出しました。 スウィフトのファンは、関連キーワードを使用してスウィフトに関するポジティブなメッセージをプラットフォームに大量に送り込み、画像を埋めようと最善を尽くしました。 「テイラー・スウィフトを守れ」という文も当時トレンドになった。
そして、世界中のスウィフティがXの対応が遅いことに怒りと不満を表明する一方で、合意のないコンピュータで生成された現実の人物の画像の蔓延についての広範な議論を引き起こした。
“その 常に暗い底流だった ディープフェイクの検出に取り組むワシントン大学のコンピューターサイエンス教授オーレン・エツィオーニ氏はニューヨーク・タイムズに語った。 「現在、特に有害であるのはその新種です。」
最新の国内ニュースを入手してください。
毎日あなたのメールに送信されます。
「私たちはこれから見ます AI が生成した露骨な画像の津波s. これを生み出した人々は、これが成功だと考えています」とエツィオーニ氏は語った。
ディープフェイクやその他の形式的な同意のない性的に露骨なコンテンツの被害者の代理人を務めている弁護士のキャリー・ゴールドバーグ氏は、ソーシャルメディアプラットフォーム上のディープフェイクに関する規則だけでは十分ではないとNBCニュースに語った。 企業はもっと改善する必要がある そもそも投稿を阻止するためです。
「ほとんどの人間には、被害に遭った場合に代打を立ててくれる何百万人ものファンがいない」とゴールドバーグ氏は同番組に語り、スウィフトのファンからの支援について言及した。 「ディープフェイクポリシーを持っているプラットフォームであっても、それを強制するのが苦手で、特にコンテンツが急速に拡散した場合、典型的なモグラたたきのシナリオになってしまいます。」
ファイル – テネシー州ナッシュビルで行われた「ザ・エラス・ツアー」でパフォーマンスを披露するテイラー・スウィフト、2023年5月5日。
ジョージ・ウォーカー4世/AP通信
「テクノロジーが問題を引き起こしているのと同じように、 明らかな解決策でもあります」と彼女は続けた。
「これらのプラットフォーム上の AI は、これらの画像を識別して削除できます。 拡散している画像が 1 つある場合、その画像に透かしを入れて識別することもできます。 だから言い訳の余地はないよ。」
しかし、X は、偽の、有害な画像や誤った情報を検出する際に、さらなる複雑な層に対処している可能性があります。 いつ イーロン・マスクがサービスを買収 2022年、同氏は問題のあるコンテンツの蔓延を許したとして広く批判されている三重の一連の決定を下した。同サイトのコンテンツ規則を緩和しただけでなく、Twitterのモデレーションチームを解体し、以前に禁止されていたアカウントを復活させた。ルール違反のため。
デジタル捜査機関であるメメティカを運営するベン・デッカー氏はCNNに次のように語った。 スウィフトが標的にされたのは残念で間違っていた、AIディープフェイクに関する会話を最前線に引き上げるために必要な後押しとなる可能性があります。
「彼女はおそらくインターネット上で他の誰よりも大きな影響力を持っているので、彼らは彼女の気分を良くする必要があると私は主張します。」
そして、この特定の形式の陰湿な誤情報の標的となるのは超有名人だけではありません。 多くの一般人がディープフェイクの対象となり、同意なしに露骨な画像を作成する「リベンジポルノ」の標的になることもあります。
12月、カナダのサイバーセキュリティ監視機関は、AIが生成した画像やビデオに有権者が注意する必要があると警告した。 「非常に可能性が高い」が使われる 今後の選挙でカナダ人の民主主義への信頼を損なうことを目的としている。
通信保安機関（CSE）は新しい報告書の中で、政治的なディープフェイクは「ほぼ確実に検出が難しくなり、カナダ人が政治家や選挙に関するオンライン情報を信頼することが難しくなる」と述べた。
「生成型 AI には潜在的な創造的な利点があるにもかかわらず、情報エコシステムを偽情報で汚染するその能力は世界中の民主的プロセスを脅かしている」と当局は書いている。
CSE長官のキャロライン・ザビエル氏は、「明確にしておきたいが、カナダの次の連邦選挙ではサイバー脅威活動が過去よりも起こる可能性が高いとわれわれは判断している」と述べた。
— Global News の Nathaniel Dove からのファイル付き
© 2024 Global News、Corus Entertainment Inc. の一部門
#テイラースウィフトの成人向けAI画像がX上で拡散取り締まりを求める声が高まる #National