連邦政府と州政府は、多くの場合元パートナーによる個人の性的画像を同意なくオンラインで共有する「リベンジポルノ」を禁止している。昨年、サウスカロライナ州はそのような法律を制定した50番目の州となった。
しかし、最近の使いやすい生成 AI ツールの台頭により、新たな問題が生じています。それらの画像が本物のように見えても、AI によって作成されたものである場合はどうなるのでしょうか?米国では何が合法で、誰が責任を負うのかはまだ明らかではない。
英国は次のように脅迫した 禁止 X と Grok (イーロン・マスクのソーシャル メディア プラットフォームおよび AI モデル) により、ユーザーは次のことが可能になります。 作成する 露骨なディープフェイク 画像 子供を含む人々の。
欧州連合、中国、インドは、AI によって生成されたすべてのコンテンツを厳しく規制しています。先週、韓国 合格した GenAI モデルの悪用の責任を問う包括的な新しい法律。
米国上院 合格した ディープフェイク被害者に訴訟を起こす権利を与える法案が今月提出される。下院はこの措置を取り上げていない。
この編集された会話では、 レベッカ・タシュネット、フランク・スタントン憲法修正第 1 条教授 ハーバード大学ロースクール バークマン・クライン・センター・フォー・インターネット・アンド・ソサエティーの教員共同ディレクターでもある同氏は、AIディープフェイク技術の使用をめぐる法的状況と、それが米国の規制当局にもたらす困難について説明する。
AI ディープフェイクとは何が違うのでしょうか?
人々が服を脱いだ状態で他の人について空想するという問題は、もちろんかなり古くからあります。しかし歴史的には、そのリアルな表現を作成および配布する方法は非常に限られていました。時には、程度の違いが種類の違いになることがありますが、これはおそらくそのような場合の 1 つである可能性があります。
スケールも違いますし、リアリティも全く違います。 AI によって生成された表現のさらなるリアリズムは、人々が感じる傷害や侵入、そして潜在的には視聴者への影響の両方に違いをもたらしているようです。
ディープフェイクの作成はすべての AI モデルで簡単ですか?
他の大きなモデルではこれを行うことはできません。
ある程度のコンピューター サイエンスの知識がある多くの人であれば、まったく普通の、行儀の良いモデルを取得し、それを大量のポルノでトレーニングすることが可能です。 2年前にはこれができなかった人が、今ではこれを行うのは比較的簡単です。
そのため、Grok が他の主要モデルと同じように動作し始めたとしても、これらのイメージが生成される可能性は十分にあります。それはそれほど簡単ではありません。
他に人々がやっているのは、「ビリー・アイリッシュがナチス式敬礼をする様子を見せる」といったことだ。露骨な性的表現に関する制約はなく、ある意味では誰もだまされないかもしれません。
このため、少なくとも米国では規制が非常に困難になっています。なぜなら、我が国の規制は虚偽性に対してはるかに優れているからです。ビリー・アイリッシュがナチス式敬礼をしていると誰かを騙そうとするなら、それは問題だ。
しかし、これらを見たほとんどの人は、これは操作された画像だと言うでしょう。それを私たちの伝統に当てはめるのは本当に難しいです。なぜなら、通常、あなたが彼女にそれをしなかった場合（または広告で画像を使用した場合）、私たちはそれを規制しないからです。
どの画像が悪い方向に操作されているかを決定する権限を政府に与えることは非常に困難であり、特に現在の政治的状況においては非常に危険です。
「米国では、親密な描写について知らされた場合、それを削除するのが基本的な責任です。」
レベッカ・タシュネット
現在、米国の法律では何が許可され、何が禁止されていますか?
本当に大混乱だ。ヌードの場合、誤った光やプライバシーの侵害に対して潜在的な責任が生じる可能性があると言える、もう少し確固たる根拠があります。しかし、それは画像を広めた人の話です。
特定の画像を生成するために彼らが使用するツール、それをどのように規制するかは明らかではありません。
不当で欺瞞的なビジネス行為を禁止する法律を制定している州はたくさんあります。このような能力を持つことが不公平だという主張もありますが、実際には難しい問題です。なぜなら、私たちが不公平について考えるとき、私たちは通常、人や子供としての役割における人々に対する不公平ではなく、消費者としての人々に対する不公平を考えるからです。
米国では、親密な描写について知らされた場合、それを削除するのが基本的な責任です。
それらを生成できる責任の問題は、私たちにはあまり経験がありません。前世代のデジタル ツールでは、このようなことをすべて行うことができました。ただ、ツールの大部分がそれを望まない人々の手に渡っていたというだけのことです。
一般的に、有名人だけでなく、有名人以外の人物のこうした描写を作成することは、多額のお金を稼ぐ方法ではありません。一般に（社会として）、これを行うためにツールを使用できるという単なる事実だけでそのツールが違法になるとは言っていません。
しかし、これは新たな領域であり、私たちが置かれている状況を考えると、少なくともそれを困難にする義務があるのかもしれません。
これらのツールを使用すると、多くの場合、回避策が存在します。そして、法的な観点から見ると、よくある質問は、「それを困難にするためには、どのような手順を踏む必要があるのか」というものです。これは、AI で「ガードレール」と呼ばれるものです。
私たちが銃を扱うときのような「ツールの使用者だけがその行為に対して責任を負う」というものから、「ツールの製造者は保険会社である。つまり、ツールが悪用されれば、ツールを使いにくくするために何をしたとしても自動的に責任を負う」というものまで、法的対応の可能性は広範囲に及ぶと思います。
最後の選択肢を提案する人も時々見かけますが、それは私たちが責任を設定する通常の方法ではありません。工具メーカーに何が求められるべきなのか、私たちはまだ考えている最中です。現時点では、ガードレールさえ義務付ける法律は確かにありません。
規制に賛成または反対する主な議論は何ですか?
このような画像を生成することを法的に非常に危険にさらしたいと考えている人々は一般に、人間の尊厳と、このテクノロジー、特に女性と少数派の人々に対するさまざまな影響に焦点を当てています。なぜなら、このテクノロジーは極端にジェンダー差別的な方法で品位を貶めるために使用されているからです。彼らは覇権の道具として使われます。それは有力な議論だと思います。
ここで非常に注意する必要があると言う人たちは、例えば、性的な嘲笑が政治的言論の一般的な手段であることを指摘しています。フランス革命の前、マリー・アントワネットに関する大量のポルノが出回った。それはポルノ的であり、政治的でもあった。
したがって、私たちは実際の言論や想像力を抑圧しないよう細心の注意を払いたいと彼らは言います。あなたが自分の時間に行うことや個人的に行うことは、おそらく政府の関心事ではないはずです。問題があるのは配布するときだけです。
EU と英国はインターネットと AI を厳しく規制しています。彼らはこの問題について率先して取り組んでいるのでしょうか、それともまだ誰もがこの問題を理解しようと奮闘しているのでしょうか?
私たちは皆、まったく異なる拠点からスクランブルをかけていると言えるでしょう。アメリカの憲法修正第 1 条は、他のほとんどの国の言論の自由の保護よりも強力です。しかし、私たち全員が混乱しているのは、おそらくこの問題の多くが憲法修正第 1 条の範囲内にないためであり、私たちの違いはまったく問題ではありません。
米国にとって際立って困難にしているのは憲法修正第 1 条ではなく、善意の試みを認めない大きなポケットを持つ米国のより大きな法文化です。
特にヨーロッパでは、非常に広範囲にわたる規制が設けられる傾向があります。しかし、規制当局が「あなたは本当に最善を尽くしており、遵守しようとしていると私たちは考えています」と言えば、規制当局はあなたが遵守していると言うでしょう。
米国では、法律で X を行うには誠実な努力が必要と明記されている場合にのみ、そうする傾向があります。そのため、両国とも、X を行う必要があると法律を可決する傾向があります。しかし、ヨーロッパでは、規制当局は、誠実な努力が重要であると考えています。
米国では特に民間の原告が「ああ、法律ではXをしなければならないと定められている。ここはあなたがしなかった場所だ。あなたには責任がある。」と言うだろう。私があなたを保険会社にするものだと説明しました。それは混乱です。