カリフォルニア州は選挙を前にディープフェイク対策に全力で取り組んでいる

カマラ・ハリス副大統領が大統領選への出馬を表明した数日後、人工知能の助けを借りて作成されたビデオが話題になった。

「ジョー・バイデン氏が討論会でついに老衰を露呈したため、私は民主党の大統領候補です」と、ハリス氏の選挙広告の改ざんに使われた偽の音声トラックでハリス氏に似た声が語った。「私は究極の多様性採用者なので選ばれたのです」

ハリス氏の共和党の対立候補であるトランプ前大統領を支持している億万長者のイーロン・マスク氏は、この動画をXでシェアし、その2日後には実際にはパロディのつもりだったと明言した。同氏の最初のツイートは1億3600万回再生された。動画をパロディと呼ぶ続編の投稿は2600万回再生された。

民主党員を含む カリフォルニア州知事ギャビン・ニューサムしかし、この事件は笑い事ではなく、政治的なメッセージを含むAI生成動画に対抗するための規制強化を求める声や、新興技術の抑制における政府の適切な役割についての新たな議論を巻き起こした。

カリフォルニア州議会は金曜日、選挙の120日以内に虚偽の選挙広告や「選挙通信」の配布を禁止する法案を最終承認した。 議会法案 2839 候補者の評判や選挙の見通し、さらには選挙結果への信頼を損なうような操作されたコンテンツが標的となっている。マスク氏が共有したハリス氏の動画のようなコンテンツに対処することを意図しているが、パロディや風刺は例外となっている。

「カリフォルニア州は、生成AIによって生み出された偽情報がこれまでにないほど私たちの情報エコシステムを汚染し、何百万人もの有権者がどの画像、音声、動画を信頼できるのかわからなくなるような初の選挙を迎えることになるだろう」とゲイル・ペレリン州議会議員（民主党、サンタクルーズ）は述べた。「だから私たちは何かしなくてはならない」

ニューサムは 彼は法案に署名する意向を示したこれは11月の選挙に間に合うように即時発効することになる。

この法案は、選挙の60日以内に候補者の評判を傷つけたり有権者を騙したりする意図で虚偽の音声や映像メディアを配布することを禁じるカリフォルニア州法を改正するものだ。州議会議員らは、ディープフェイクと呼ばれるデジタル加工された動画や写真がすでにソーシャルメディアに溢れている選挙期間中にこの法律を強化する必要があると述べている。

ディープフェイクを使った偽情報の拡散は、これまでの選挙期間中、議員や規制当局の懸念事項となってきた。画像や動画を素早く生成できるチャットボットなど、AI を利用した新しいツールの登場により、こうした懸念は高まった。偽の自動電話から有名人による候補者への偽の支持まで、AI が生成したコンテンツは、技術プラットフォームや議員にとって試練となっている。

AB 2839 に基づき、候補者、選挙委員会、選挙管理官は、ディープフェイクを削除するよう裁判所命令を求めることができる。また、虚偽の素材を配布または再公開した人物に対して損害賠償を求める訴訟を起こすこともできる。

この法律は、選挙後60日以内に投稿された虚偽のメディアにも適用され、選挙結果への信頼を損なう可能性のある方法で投票機、投票用紙、投票所、またはその他の選挙関連の資産を偽って描写するコンテンツも含まれます。

ただし、風刺やパロディとして分類されている作品や、放送局が視聴者に、描写されている内容が演説や出来事を正確に表していないことを知らせる作品には適用されません。

テクノロジー業界団体は、AB 2839のほか、虚偽の選挙コンテンツを適切に管理していない、あるいはAI生成コンテンツにラベルを付けていないとしてオンラインプラットフォームを標的とする他の法案にも反対している。

「憲法で保護されている言論の自由が萎縮し、ブロックされることになるだろう」とネットチョイスの副社長兼法務顧問のカール・サボ氏は語った。同団体のメンバーにはグーグル、X、スナップのほか、フェイスブックの親会社メタなどテクノロジー大手も含まれる。

オンライン プラットフォームには、操作されたメディアや政治広告に関する独自のルールがありますが、ポリシーは異なる場合があります。

MetaやXとは異なり、TikTokは政治広告を許可しておらず、ラベルの付いたものでも削除する可能性があるとしている。 AI生成コンテンツ 著名人などの公人を描写している場合、「政治的または商業的な支持のために使用される場合」。トランプ氏が創設したプラットフォームであるトゥルース・ソーシャルは、プラットフォーム上で許可されていないものに関する規則の中で、操作されたメディアについては触れていない。

連邦および州の規制当局はすでに AI 生成コンテンツを取り締まり始めている。

連邦通信委員会は5月、AIを使ってバイデン大統領の声を真似るロボコールを仕掛けた民主党の政治コンサルタント、スティーブ・クレイマー氏に600万ドルの罰金を課すことを提案した。この偽の電話は1月に行われたニューハンプシャー州の民主党大統領予備選への参加を阻んだ。 NBCニュース 彼は政治におけるAIの危険性に注意を喚起するためにこの呼びかけを企画したが、有権者抑圧の重罪と候補者のなりすましの軽罪で刑事告訴されている。

サボ氏は、選挙のディープフェイクに関する懸念に対処するには現行法で十分だと述べた。ネットチョイスは、ソーシャルメディアで子供を保護することを目的とした一部の法律が憲法修正第1条に基づく言論の自由の保護に違反しているとして、各州を相手取って訴訟を起こしている。

「新しい法律を作るだけでは悪い行為を止めることはできない。実際に法律を施行する必要がある」とサボ氏は語った。

消費者擁護団体によると、ワシントン州、アリゾナ州、オレゴン州を含む20以上の州がディープフェイクを規制する法律を制定、可決、または制定に向けて取り組んでいる。 パブリックシチズン。

2019年、カリフォルニア州は、 ナンシー・ペロシ下院議長が酔っているように見える動画が拡散した。 ソーシャルメディア上でのこの法律の施行は課題となっている。

「私たちはそれを弱める必要があった」と、法案の著者であるマーク・バーマン議員（民主党、メンロパーク）は語った。 請求書「この技術の潜在的なリスクに多くの注目を集めましたが、結局のところ、あまり効果がないのではないかと心配していました。」

バージニア大学ロースクールのダニエル・シトロン教授は、選挙候補者は法的措置を取るよりも、ディープフェイクを暴いたり、拡散を抑えるためにそれを無視したりするかもしれないと語る。彼らが法廷を通過できる頃には、そのコンテンツはすでに拡散しているかもしれない。

「これらの法律は、それが伝えるメッセージゆえに重要です。私たちに何かを教えてくれます」と彼女は述べ、ディープフェイクを共有する人々にコストがかかることを知らせると付け加えた。

今年、議員らは、非営利団体カリフォルニア・コモン・コーズのプロジェクトであるカリフォルニア・テクノロジー・アンド・デモクラシー・イニシアチブと協力し、政治的ディープフェイクに対処するためのいくつかの法案に取り組んだ。

連邦法の下でユーザーが投稿したコンテンツに対する責任を免除されているオンラインプラットフォームを標的とするものもあります。

バーマン知事は、カリフォルニア州で少なくとも100万人のユーザーを抱えるオンラインプラットフォームに対し、選挙後120日以内に選挙に関連した特定の虚偽コンテンツを削除するか、ラベルを貼ることを義務付ける法案を提出した。プラットフォームは、ユーザーが投稿を報告してから72時間以内に行動を取らなければならない。 AB2655水曜日に議会を通過した法案では、プラットフォームには偽コンテンツを特定、削除、ラベル付けする手順も必要となる。また、この法案はパロディや風刺、あるいは一定の要件を満たすニュースメディアには適用されない。

バフィー・ウィックス下院議員（民主党、オークランド）が共同執筆した別の法案では、オンラインプラットフォームにAI生成コンテンツにラベルを付けることを義務付けている。別の業界団体であるNetChoiceとTechNetはこの法案に反対しているが、ChatGPTメーカーのOpenAIは支持している。 AB3211、 ロイター 報告した。

しかし、この2つの法案は選挙後まで発効しない予定であり、技術が急速に進歩する中で新しい法律を可決することがいかに困難であるかを浮き彫りにしている。

「この法案を提出する私の望みの一部は、それが生み出す注目であり、ソーシャルメディアプラットフォームに今すぐ行動するよう圧力をかけることだ」とバーマン氏は語った。