ディープフェイク画像の作成はますます簡単になっています – その使用を制御することはほぼ不可能であることが証明されています | オーストラリアの政治

生成 AI ウェブサイトで自分の顔を見たとき、エイプリルさんは「とても不気味だ」と最初に思いました。

エイプリルはマディソン双子の片割れです。 彼女と妹のアメリアは、OnlyFans、Instagram、その他のプラットフォーム向けのコンテンツを作成していますが、これらは同意なしに作成されたカスタム生成 AI モデルとしても存在していました。

「私たちの顔を見るのは本当に奇妙でしたが、実際には私たちの顔ではありませんでした」と彼女は言います。 「それは本当に不安です。」

ディープフェイク（人工知能を使用して現実的だが虚偽の画像、ビデオ、音声を作成するもの）は、連邦政府が先週発表した後、政治的議題となっている。 法律を導入する 女性に対する暴力対策の一環として、ディープフェイクポルノの作成と共有を禁止する。

首相は「人工知能などのテクノロジーを利用して性的に露骨な内容を共有すると、重大な刑事罰の対象となる」と述べた。 アンソニー・アルバニーズと記者会見で述べた。

April と Amelia の AI モデルは、CivitAI と呼ばれる Web サイトにありました。これにより、Stable Diffusion として知られるジェネレーターに基づいて、オープンソースの AI 画像モデルをアップロードできます。 双子に基づくモデルには双子の名前が明確にラベル付けされており、900 枚を超える双子の画像でトレーニングされたことが示されました。 その後、誰でもプログラムをダウンロードして、エイプリルとアメリアに似た画像を生成できるようになります。

ガーディアン・オーストラリアは、オーストラリアの他のインフルエンサーや有名人のカスタムモデルを求めるユーザーのリクエストにクリエイターが応えていることを発見した。 有名人でなくても性的な画像を作成するためにこのプラットフォームが使用されていることが十分に文書化されています。

「特定の個人の肖像を生成するために訓練されたリソースは非営利かつ非性的でなければならず、描かれた人物からの要求に応じて削除することができます」とCivitAIの広報担当者は述べた。

政府が新たな規則の制定を進める一方で、ディープフェイクへの取り組みはすでに既存の法律で進められているが、必ずしも簡単に執行できるわけではない。

著名なオーストラリア人が関与したテストケース

RMIT大学の法学講師ニコール・シャクルトン博士によると、ディープフェイクポルノを本人の同意なしに配布することは、ほとんどの州や準州ですでに犯罪となる可能性が高いという。 しかし、連邦法がそのギャップを埋める可能性があると彼女は言う。

すでにテストケースが進行中です。 昨年10月、アンソニー・ロトンド 逮捕されました ディープフェイク画像をブリスベンの学校やスポーツ協会に送信した疑いで起訴された。

eSafety委員は、ロトンド氏が昨年ディープフェイクポルノウェブサイトからオーストラリアの著名人数人の「親密な画像」を削除しなかったことをめぐって、ロトンド氏に対する訴訟を別途開始した。

裁判所の審理によると、ロトンド氏は当初、フィリピンに拠点を置いている間は命令に従うことを拒否したが、ロトンド氏がオーストラリアに帰国すると長官は訴訟を開始することができたという。

12月中、 彼は罰金を科せられた 画像を削除しなかったことにより裁判所の命令に違反したことを認めた後、法廷侮辱罪で起訴された。 その後、同氏は長官の職員がパスワードを削除できるようパスワードを共有した。 eSafety訴訟は来週再び法廷に持ち込まれるが、州訴訟は6月13日まで延期される。

ディープフェイクを含む画像ベースの不正行為は eSafety 委員会に報告することができ、同委員会は「この悲惨な内容を削除する成功率は 90%」であると主張しています。

マーク・ドレフュス司法長官は先週、既存の法律が存在したことは認めたが、新法案はこれを明確な犯罪とするためのものだと述べた。

「他者を脅したり、嫌がらせしたり、気分を害したりする目的で、個人的な性的コンテンツをオンラインで共有することを犯罪とする既存の犯罪が存在する」と同氏は述べた。

「これらの改革は、人工知能などのテクノロジーを使用して、同意なしに性的に露骨なコンテンツを作成および共有することによって女性を虐待または貶めようとする者が重大な刑事罰の対象となることを明確にするための新たな犯罪を創設することになる。」

この法律は、同意のない私的な性的資料の配布に対する犯罪をすでに規定しており、最高6年の刑罰が課せられている既存の刑法にこの法案が追加されるものと理解されている。

エレクトロニック・フロンティアーズ・オーストラリアの理事であるエイミー・パターソン氏は、オーストラリア電子フロンティアーズは、なぜ人々がディープフェイクを作成または配布しようとするのかという根本的な問題に対処せずに、新しいテクノロジーに対処する「モグラたたき」法に警戒していると述べた。

「私たちが必要としないのは、これらの広告以上に必要とされる体系的かつ繰り返し発生する問題に対処するというより困難な作業の怠惰な代替品として、すでに持っている権限を十分に活用していない当局に新しい権限を急ぐことです」症状のある斑点がいくつかあります」と彼女は言います。

パターソン氏は、人々がディープフェイクを見分ける方法を学べるよう、デジタルリテラシーにもより多くのリソースを投入すべきだと述べている。 「これらは実際の安全上の問題であり、より検討され、包括的で、後手後手的なアプローチをとるべきであることは間違いありません」と彼女は言います。

「私たちはこれらのものを取り除くのをもっと上手にする必要があります」

マディソン双子にとっては、自分たちの似姿を生成する AI モデルが彼らの生計に影響を与える可能性があるという懸念もある。 画像が盗まれ、同意なしに配布された場合、著作権要求を使用して画像を削除することができますが、ディープフェイクの作成に関する法律はそれほど明確ではありません。

シドニー大学の知的財産法を専門とするキンバリー・ウェザオール教授は、ディープフェイクに関する著作権問題はトレーニング段階と出力段階の2段階に分けられると述べている。

AI モデルにはトレーニングに多くの画像が必要ですが、それらの画像が同意なく撮影された場合、コピーの作成が含まれるため、そのトレーニング自体が著作権侵害となる可能性があります (オーストラリアで発生した場合)。

一方、モデルの存在自体が著作権侵害になる可能性は低いです。

たとえば、既存のポルノ ビデオに誰かの顔を添付してディープフェイクが作成されるシナリオでは、元のクリップの著作権所有者が著作権の申し立てを行う可能性があります。 しかし、モデルが誰かの新しいイメージを作り出している場合、それは既存の法律ではカバーされない可能性があります。

「テキストプロンプトを入力して、有名人がやらないであろうことをしている有名人の画像を生成している場合、それを知的財産法で攻撃するのは実際には非常に困難です」とウェザオール博士は言う。 「それは、私の外見には著作権がないからです。」

アメリア・マディソンは、CivitAI モデルを「違反している」と表現しています。 二人の女性は、実際にはやらないことをしているというイメージを人々に作られるのではないかと懸念している。

「人々は、本当に不安になるようなことを要求するかもしれません」とエイプリルは言います。 「彼らが私たちの無害なイメージを作ることができるなら、彼らはそうすることができます。 [also] 他のことをしてください。」

CivitAI モデルのページでは、「トレーニング データのため、適切に指示されないとヌードが生成される可能性があります。」と警告されています。

シャクルトン氏は、同意のないディープフェイクに取り組む新たな法律と同様に、AIおよびテクノロジー企業は自社のプラットフォームが安全に設計されていることを確認する必要があると述べた。

CivitAIの広報担当者は声明の中で、ガーディアン・オーストラリアにその「Real People Policy」について指示した。 「Civitai では、AI によって生成された現実の人物の画像の生成と投稿が許可されていますが、利用規約とモデレーション フィルターにより、これらの画像が示唆に富んだものになることは許可されていません」と彼女は述べた。

ただし、公人の露骨な画像を防ぐためのプラットフォームのフィルターは個別に作成する必要があります。 「CivitAIがアメリカ人のスタッフとモデレーターによって運営されているアメリカの会社であることを考えると、チームが非西側の著名人を事前に知らなかった場合、その人物に対するフィルターの統合が遅れる可能性があります」と彼女は述べた。

同社はまた、示唆的または露骨な性的表現を含む実在の個人のモデルや画像を報告するようユーザーに「積極的に促し、依存」しています。

個人は会社に連絡して自分の肖像の使用の「許可を取り消す」ことができ、双子の経営陣は今週これを行った。 このモデルは現在、CivitAI Web サイトから削除されています。

しかし、これらのモデルに描かれた人々には、自分自身のイメージを監視する責任が依然として残されています。 「私たちはこれらのものをうまく取り除く方法を見つける必要があります」とアメリアは言います。 「本当に不公平だ。」

シャクルトン氏は、なぜ人々がディープフェイクの性的画像を作成し、オンラインで配布することを選択するのかという根本的な理由にも対処しなければ、新たな法律は大きな影響を与えない可能性があると述べている。

「ディープフェイクの性的画像の作成と配布、およびオンライン上で女性や少女を黙らせたり脅迫したりする目的での使用を防ぐという点では、政府がより広い視野に目を向けることが極めて重要です」と彼女は言う。