テイラー・スウィフトのディープフェイクヌードはAI規制がどれほど必要かを示す：専門家

先週、スーパースターのテイラー・スウィフトが性的なものを暗示的かつ露骨な姿勢で描いたAIが生成した画像がインターネット上に拡散され、恐怖と非難が巻き起こった。専門家らは、これは今こそAIに対する本当の規制が必要であることを示す警鐘であると述べている。

Think Start のメディアおよび技術コンサルタントであるモヒト・ラジャンス氏は日曜日、CTV ニュース チャンネルに対し、AI コンテンツの生成と普及に関して「オンラインでは西部開拓時代になってしまった」と語った。

「列車は駅を出発し、汎用人工知能が登場しました。それをどのように規制するかは、これから私たちにかかっています。」

伝えられるところによると、X上で出回った偽画像が削除されるまでに17時間かかったという。

現在、「Taylor Swift」、「Taylor Swift AI」、および「Taylor AI」という用語をユーザーが X で検索しようとすると、エラー レポートが表示されます。同社は、これはプラットフォームの安全性を評価するための一時的な措置であると述べています。

しかし、ディープフェイクされた歌手のポルノ画像は、ソーシャルメディアサイトが行動を起こす前に何千万回も閲覧された。 ディープフェイクは、AI が生成した、本物の人物をフィーチャーした偽の状況の画像とビデオです。 大きな危険は、それらがフォトショップで加工された画像よりもはるかに現実的であることです。

「このテクノロジーが規制されなければ、多くの嫌がらせや誤った情報が拡散する可能性があります」とラジャンス氏は述べた。

スウィフトの標的は、同意なしに人々のポルノ画像を生成するためにAIが使用されるという不穏な傾向の一部であり、主に女性と少女に対して使用される「リベンジポルノ」として知られる行為である。

AIは何年も悪用されてきたが、人々が立ち上がって問題に注意を向けるようになる「テイラー効果」が確実に存在するとラジャンス氏は言う。

「何が起こったのかというと…テイラー・スウィフトの画像を利用して、彼女と関係のない商品を販売したり、彼女（画像）を加工してさまざまな性的行為をさせたりしたため、より多くの人がこのテクノロジーがいかに蔓延しているかに気づくようになった」と彼は語った。 。

ホワイトハウスも注目しており、金曜日には行動を起こす必要があるとコメントした。

ホワイトハウス報道官のカリーヌ・ジャンピエール氏は金曜の声明で、スウィフトの偽ヌードの拡散は「憂慮すべきこと」であり、将来的にこうした状況にもっと適切に対処するための立法措置が検討されていると述べた。

「当然、この問題に対処するための法律が制定されるべきだ」と彼女は述べたが、具体的にどの法律を支持しているかは明らかにしなかった。

数千人の俳優やパフォーマーを代表する労働組合であるSAG-AFTRAは土曜日の声明で、ジョー・モレル下院議員が昨年提出した「親密な画像のディープフェイク防止法」と呼ばれる法案を支持すると発表した。

「誰かの同意なしに偽画像、特にわいせつな性質の画像を開発および配布することは違法とされなければならない」と組合は声明で述べた。

ホワイトハウスでの会見でジャンピエール氏は、「現実の人々の同意のない親密な画像」の拡散を防ぐために、ソーシャルメディアプラットフォームには「独自のルールを施行するという重要な役割がある」と付け加えた。

ラジャンス氏は日曜、ソーシャルメディア企業がディープフェイクへの対応に力を入れる必要があるのは明らかだと語った。

「我々はソーシャルメディア企業に責任を問う必要がある。これらのソーシャルメディア企業の一部には重い罰金が科せられるべきだ。彼らはソーシャルメディアを利用する人々から多額の利益を得ている。」と同氏は述べた。

同氏は、人々が自分のものではない曲をアップロードした場合、ソーシャルメディアサイトでフラグが立てられる可能性があると指摘した。

「では、ディープフェイクが侵入できないようにソーシャルメディアを管理するために、なぜ彼らは今このテクノロジーを使用しないのでしょうか?」 彼は言った。

ディープフェイクに関する 2023 年の報告書では、オンラインのすべてのディープフェイク動画の 98 パーセントが本質的にポルノであり、ディープフェイク ポルノの標的となった個人の 99 パーセントが女性であることが判明しました。 韓国の歌手や女優が不当に標的にされ、ディープフェイクポルノの標的となった個人の53パーセントを占めた。

この報告書は、ユーザーが60秒のディープフェイクポルノビデオを無料で30分以内に作成できる技術が現在存在していることを強調した。

AIの世界で起こっている進歩のスピードは、このテクノロジーの影響を管理するという点で私たちに不利に働いている、とラジャンス氏は語った。

「あまりにも歩行者レベルになりつつあるので、あなたや私はミームを作って共有するだけで、それが実際の事実なのか、それとも再現されたものなのかの違いは誰もわかりません」と彼は語った。

「これはテイラー・スウィフトだけの問題ではありません。これはハラスメントの問題であり、フェイクニュースの共有の問題であり、このテクノロジーがどのように使用されているかについて教育する必要がある文化全体の問題です。」

ディープフェイクを抑制するカナダの法律が制定されるまでにどれくらいの時間がかかるかは不明だ。

カナダ安全保障情報局は、2023年の報告書でディープフェイクを「カナダの未来への脅威」と呼び、「世界的に分散された情報の完全性を維持し、悪意あるセキュリティー情報に対処するためには、パートナー政府、同盟国、学者、業界専門家間の協力が不可欠である」と結論づけた。進化するAIの応用。」

カナダにおける AI システムに関する規制枠組み案は現在、人工知能およびデータ法と呼ばれる下院で審議されていますが、今年発効することはありません。 この法案が国王の承認を得られれば、AIDAを明確にするための協議プロセスが開始され、その枠組みは早ければ2025年までに発効することになる。