日本

偽の露骨なテイラー・スウィフト画像がソーシャルメディアの沼地に

今週、人工知能によって生成されたと思われるテイラー・スウィフトの性的に露骨な偽の画像がソーシャルメディアプラットフォーム全体に急速に拡散し、それを見たファンを動揺させ、女性を保護し、そのような画像を拡散するプラットフォームやテクノロジーを取り締まるよう議員らからの要求が再燃した。X（旧Twitter）でユーザーが共有した1枚の画像は、木曜日にアカウントが停止されるまでに4,700万回閲覧された。 Xはスウィフトさんの偽造画像を投稿した複数のアカウントを停止したが、画像は他のソーシャルメディアプラットフォームで共有され、それらの企業が削除しようとしたにもかかわらず、拡散し続けた。Xは画像の削除に取り組んでいると述べたが、ポップスーパースターのファンは抗議のプラットフォームに殺到した。 彼らは、露骨な画像をかき消して見つけにくくするために、「テイラー・スウィフトを守れ」という文章とともに関連キーワードを投稿した。AIの検出に重点を置いたサイバーセキュリティ会社Reality Defenderは、画像は拡散モデルを使用して作成された可能性が高いと判断した。拡散モデルは、10万以上のアプリや公開されているモデルを通じてアクセスできるAI主導の技術であると、同社の共同創設者兼チーフのベン・コルマン氏は述べた。エグゼクティブ。AI 業界が急成長する中、企業はユーザーが簡単なプロンプトで画像、ビデオ、テキスト、音声録音を作成できるツールを競ってリリースしてきました。 AI ツールは非常に人気がありますが、いわゆる ディープフェイク、人々がやったことのないことをしたり言ったりする様子を描写します。研究者らは現在、ディープフェイクが強力な偽情報勢力となり、一般のインターネットユーザーが同意のないヌード画像や政治的候補者の恥ずかしい描写を作成できるようになっているのではないかと懸念している。 人工知能が偽物の作成に使用された バイデン大統領のロボコール ニューハンプシャー州の予備選中にスウィフト氏は今月特集された。 調理器具を売り込むディープフェイク広告。ディープフェイクの検出に取り組むワシントン大学のコンピューターサイエンス教授オーレン・エツィオーニ氏は、「インターネットの暗い底流には常に、さまざまな種類の同意のないポルノが存在する」と語る。 「今では、特に有害な新種のものです。」「私たちは、AI によって生成された露骨な画像の津波を目にすることになるでしょう。 これを生み出した人々は、これが成功だと考えています」とエツィオーニ氏は語った。Xはコンテンツに対して一切寛容の方針をとっていないと述べた。 「私たちのチームは、特定されたすべての画像を積極的に削除し、それらを投稿したアカウントに対して適切な措置を講じています」と代表者は声明で述べた。 「さらなる違反があれば直ちに対処し、コンテンツが削除されるよう、状況を注意深く監視しています。」生成 AI ツールを製造する企業の多くは、ユーザーによる露骨な画像の作成を禁止していますが、人々はルールを破る方法を見つけています。 「これは軍拡競争であり、誰かがガードレールを思いつくたびに、別の誰かが脱獄方法を見つけ出すようだ」とエツィオーニ氏は語った。によると、画像は、そのような画像の作成に特化したメッセージング アプリ Telegram 上のチャンネルから発信されたものです。 404 メディア、テクノロジーニュースサイト。 しかし、ディープフェイクは X やその他のソーシャル メディア サービスに投稿されたことで幅広い注目を集め、急速に拡散しました。一部の州ではポルノや政治的なディープフェイクを制限している。 しかし、この制限は大きな影響を与えておらず、そのようなディープフェイクに対する連邦規制は存在しないとコルマン氏は述べた。 プラットフォーム側はユーザーに報告を求めることでディープフェイクに対処しようとしてきたが、その方法はうまくいかなかったと同氏は付け加えた。 フラグが立てられるまでに、何百万ものユーザーがすでにそれらを目にしています。「歯磨き粉はすでにチューブから出ています」と彼は言いました。スウィフトさんの広報担当者ツリー・ペイン氏は木曜日遅くのコメント要請にすぐには応じなかった。スウィフトさんのディープフェイクは、議員らに新たな行動を求める声を高めた。 昨年、そのような画像の共有を連邦犯罪とする法案を提出したニューヨーク州選出の民主党下院議員ジョー・モレル氏は、Xで画像の拡散は「恐ろしい」と述べ、「それは毎日、どこの女性にも起こっている」と付け加えた。 」バージニア州選出の民主党議員で上院情報委員会委員長のマーク・ワーナー上院議員は、Xの画像について「私はAIが同意のない親密な画像を生成するために使用される可能性があると繰り返し警告してきた。これは嘆かわしい状況だ」と語った。 」ニューヨーク州選出の民主党下院議員イベット・D・クラーク氏は、人工知能の進歩によりディープフェイクの作成が容易かつ安価になったと述べた。「テイラー・スウィフトに起きたことは何も新しいことではない」と彼女は語った。 #偽の露骨なテイラースウィフト画像がソーシャルメディアの沼地に