（ブルームバーグ）－ソーシャルネットワーク分析会社グラフィカによると、先月末にソーシャルメディア上で拡散したテイラー・スウィフトのポルノディープフェイクは、人々が人工知能を使ってわいせつな画像を生成するのを阻止するように設計された安全機構を破るというオンラインでの挑戦に端を発したという。
数週間にわたり、インターネット フォーラム 4chan のユーザーは、Microsoft Designer や OpenAI の DALL-E などの人気のある画像生成サービスのフィルターを回避するのに役立つ単語やフレーズを見つけるための毎日のコンテストに参加していることが研究者らによって判明しました。 最終的な目標は、歌手や政治家などの著名な女性の性的なイメージを作成することでした。
「テイラー・スウィフトのポルノ写真の拡散により、AIが生成した同意のない親密な画像の問題が主流の注目を集めるようになったが、被害者は彼女だけではない」とグラフィカのシニアアナリスト、クリスティーナ・ロペス・G氏は電子メールで述べた。 「これらの画像が発信された 4chan コミュニティでは、彼女は最も頻繁にターゲットにされる著名人ですらない。 これは、世界的な有名人から小学生まで、誰もがこの方法で標的にされる可能性があることを示しています。」
4chanの代表者はコメントの要請に応じなかった。
グラフィカの分析によると、ディープフェイクは1月初旬に同チャンネルで発生し、その後テレグラムに移り、その後Xに移ったが、わいせつな写真が暴動を引き起こしたため、テイラー・スウィフトの検索をすべてブロックせざるを得なくなった。 The Verge によると、画像のうちの 1 つは X に 17 時間掲載され、閲覧回数は 4,500 万回を超えました。
多くのテキストから画像への生成会社は、ユーザーが有害なコンテンツを生成できないようにするために、特定のキーワードを禁止しています。 ただし、4chan やその他のオンライン フォーラムの一部のユーザーは、これらの安全対策を突破する方法についてのヒントを共有しています。
「これらの画像は、生成型 AI 製品の安全装置を回避するという『挑戦』を動機とする人々のコミュニティから発信されたものであり、新たな制限は『敗北』への単なる障害と見なされています」とロペス G 氏は述べています。 「根源でさらなる悪用を防ぐためには、この悪意のある活動のゲーム的な性質を理解することが重要です。」
このテクノロジーが手に負えなくなりつつあるという専門家たちの長年の懸念の後、スウィフトのバイラル画像は、同意のないディープフェイクを政治的議題のトップに押し上げるのに役立った。 ホワイトハウスはスウィフトの画像を非難する声明を発表し、ニューヨーク州選出の民主党ジョー・モレル下院議員は、今回の事件を機にディープフェイクポルノを罰金と懲役が当然の連邦犯罪にしようとする同氏の取り組みに注目が集まることを期待していると述べた。
4chan チャンネルでは、スウィフトは性的または暴力的なイメージを作り出すために肖像が使用された多くの有名人の 1 人にすぎません。 他にはビリー・アイリッシュ、アリアナ・グランデ、エマ・ワトソンなどがいます。 スウィフト、アイリッシュ、グランデ、ワトソンの代理人はコメントの要請に応じなかった。
1月30日の時点でも、スウィフトのディープフェイクリクエストは依然として行われており、その中には彼女の暴力的な画像を求めるものも含まれていた。
専門家によると、有名人のディープフェイクポルノは長年にわたってインターネット上で数多くのウェブサイトで公開されてきたが、人々が技術にアクセスできるようになるにつれて、一般人が巻き込まれる事件も増えているという。 多くの場合、被害者には手段がほとんどなく、画像を削除するのに苦労しています。
©2024 ブルームバーグ LP
1707134305
#テイラースウィフトのディープフェイクはAIの挑戦から生まれたと報告書が指摘
2024-02-05 11:18:26