カリフォルニア州の新しいディープフェイク対策法案とは何か？そして、操作された政治広告を阻止できるか？ | 解説

カリフォルニア州知事ギャビン・ニューサム [File]
| 写真提供: AP

これまでのストーリー: カリフォルニア州知事ギャビン・ニューサム氏は、Xのオーナーで億万長者のイーロン・マスク氏が米国副大統領カマラ・ハリス氏のディープフェイク動画を再投稿したことを受け、7月下旬、AIが生成したディープフェイクコンテンツに対して措置を講じると約束した。ハリス氏は動画の中で、自身を「多様性採用」と呼んでいる。知事の批判に対し、マスク氏はわいせつな発言をし、パロディーは国内で合法だと主張した。

9月18日、ニューサム知事はマスク氏を批判するX投稿を再開し、法案に署名してカリフォルニア州でそのようなコンテンツを違法にしたと述べた。同知事は、選挙運動における「欺瞞的」となる可能性のあるディープフェイクやデジタル加工コンテンツに対して措置を講じる法案3件に署名した。

「ディープフェイクを含む、実質的に欺瞞的な内容を含む広告やその他の選挙関連の通信を故意に配信することはもはやできない」とニューサム氏は述べた。

新しいディープフェイク対策法案とは何ですか?

ニューサム氏によれば、ユーザーはディープフェイクを含む「実質的に欺瞞的なコンテンツ」を含む広告や選挙コミュニケーションを配信できなくなる。

ニューサム知事は合計3つの法案に署名した。AB 2655は、大手オンラインプラットフォームに「特定の期間」に選挙関連のディープフェイクを削除またはラベル付けすることを義務付ける。AB 2839は、ポスター作成者が選挙広告や「欺瞞的な」AI生成または操作されたコンテンツを含む資料を配布できない期間を延長する。AB 2355は、AIまたは改変されたコンテンツを含む選挙広告にその旨の開示を義務付ける。

これら3つの法案はまた、規制当局や法執行機関に、法的手段でこうしたメディアに対処したり、削除させたりする権限を与えている。

「選挙の公正さを守ることは民主主義にとって不可欠であり、AIが偽情報を通じて国民の信頼を損なうために利用されないようにすることが極めて重要です。特に今日の緊迫した政治情勢においてはなおさらです。これらの措置は、政治広告やその他のコンテンツにおけるディープフェイクの有害な使用に対抗するのに役立つでしょう。これは、州が透明性と信頼性のあるAIを促進するために積極的に取り組んでいるいくつかの分野の一つです」とニューサム知事は9月17日の公式プレスノートで述べた。

紙幣の防水性はどの程度ですか?

この法案は主にカリフォルニア州に適用され、州内の選挙の前後に定められた日数、大幅に改変されたメディアの流通を禁止する選挙関連行為に関する既存の法律を拡大するものである。

マスク氏は知事の行為は米国憲法に違反していると主張しているが、多くの準拠したAI企業はすでに、ユーザーが選挙候補者、役人、国家元首、有名人などのディープフェイクを作成するのを阻止するフィルターやコンテンツ制限を設けている。

AB-2655は次のように述べている。「2024年ディープフェイク欺瞞から民主主義を守る法案として知られるこの法案は、カリフォルニア州の選挙前後の特定の期間中、大規模なオンラインプラットフォームに、定義されたとおり、カリフォルニア州の選挙に関連する実質的に欺瞞的なコンテンツの投稿をブロックすることを義務付ける。この法案は、カリフォルニア州の選挙前後の特定の期間中、大規模なオンラインプラットフォームに、特定の追加コンテンツを偽物、偽物、または虚偽であるとラベル付けすることを義務付ける。」

これらはほとんどの法域でほぼ標準的な要件であり、主要な検索エンジンプラットフォームも、ユーザーの混乱や偽ニュースの拡散を防ぐために、AI 生成画像を識別したり透かしを入れたりすることに取り組んでいます。

マスク氏は、ハリス氏を否定的に描写したディープフェイクの選挙広告を弁護するためにパロディを口実にしてきた。実際、AB 2655では、同法案は「風刺やパロディのコンテンツも除外する」としている。

オリジナルのディープフェイク動画の投稿者にはパロディであると記載されていたが、マスク氏が7月27日にXで共有したバージョンには、メディアが偽物であることを明確にするコミュニティノートやプラットフォームベースの開示事項がなかった。

イーロン・マスクがハリスをフィーチャーしたディープフェイク動画をシェアしているスクリーンショット | 写真提供: イーロン・マスク on X

規則に違反した場合はどうなりますか?

新たに署名された法案と既存の法律には違反に対する措置が定められているが、誰かが新しい規制に違反した場合、実際にどのような結果になるかはまだ明らかではない。法案は米国選挙が行われる約50日前に署名されたため、このような短期間で法案がどれほど効果的で厳格であるかを評価することは難しいだろう。

さらに、法案では、規則に従わない個人や団体に厳しい罰則を科すことはできない。

AB 2355では、該当するメディアコンテンツに「人工知能を使用して生成または大幅に変更された広告」という開示を追加する必要があると規定しているが、この開示要件に違反しても「軽犯罪にはならない」と法案では指摘されている。

マスク氏のような強力な利害関係者が新しい法案によって抑制される可能性は低いが、この法律は、X で広がっている AI 生成の誤情報の増加に光を当てるために利用される可能性がある。その大部分は、より準拠した AI 企業の同等のチャットボットよりもコンテンツ制限が少ない Grok AI チャットボットによって可能になっている。

結局のところ、カリフォルニア州の法律を繰り返し違反すると、X は時間の経過とともに法的に問題を抱えることになり、リスク回避志向の強い広告主の間ですでに不安定な立場にさらに悪影響を及ぼす可能性がある。

ニューサム知事による法案署名のニュースに応えて、マスク氏は、そもそも知事からの批判を招いたハリス氏を起用したパロディ選挙広告を再び強調した。

マスク氏はディープフェイク動画を1億8000万人以上のフォロワーと共有し、「拡散したら残念だ」と述べた。

しかし、今回彼が共有したバージョンでは、そのビデオがパロディであることが明確に示されていました。

イーロン・マスクがニューサムの新法案を批判しているスクリーンショット | 写真提供: イーロン・マスク on X