OpenAI、マイクロソフト、アドビがカリフォルニア州のAIウォーターマーク法案を支持

OpenAI、マイクロソフト、アドビは、 AB-3211 カリフォルニア州でテクノロジー企業にAI生成コンテンツにラベルを付けることを義務付ける法案。

法律によれば、生成AIシステムによって作成または大幅に変更された写真、ビデオ、音声録音のメタデータには透かしを追加する必要がある。

この法案では、XやInstagramなどの大手ソーシャルメディアプラットフォームに対して、ユーザーがクリックして閲覧できるアップロードされたコンテンツに「わかりやすい」ラベルを付けることも義務付ける。オーディオクリップやミュージックビデオには視覚的なラベルを付けるべきである。

OpenAIはカリフォルニア州議会議員バフィー・ウィックスに宛てた書簡で支持を表明し、 ロイターアドビとマイクロソフトも同様の書簡でこの法案を支持している。 テッククランチ。

ロイター通信によると、OpenAIの最高戦略責任者ジェイソン・クォン氏は書簡の中で、「新しい技術と標準は、人々がオンラインで見つけたコンテンツの出所を理解し、人間が作成したコンテンツとフォトリアリスティックなAIが作成したコンテンツを混同しないようにするのに役立つ」と述べている。

クォン氏の書簡では、説得力のある合成コンテンツが投票を左右する可能性があるため、透明性と出所に関する要件は選挙の年には特に重要であるとも強調されている。例えば、テイラー・スウィフトのファンがドナルド・トランプ氏を支持するAI生成画像が8月初旬にソーシャルメディアで拡散された。

Adobe の政策および政府関係担当ディレクターのアン・パーキンス氏は、Adobe が AB-3211 の作成を支援するために、出所技術の機能に関する技術的専門知識を提供したと述べました。同氏は TechRepublic に次のように語りました。「Adobe は、AI を活用した世界にさらなる信頼と透明性をもたらすという AB-3211 の目標に常に賛同してきました。」

「本日の法案は、善良な行為者が信頼できるようにしながら、有害なAI生成ディープフェイクから人々を守る効果的な枠組みを提供します。これは、誤情報が渦巻き、大きなリスクを伴う選挙の年には特に重要です。AIのイノベーションを繁栄させ、この技術の悪用から国民を守るこの重要な法案を推進したウィックス議員を称賛します。」

AB-3211 は州議会と上院の歳出委員会で承認されました。次に州上院で全会一致の投票が行われ、その後ギャビン・ニューサム知事に送られ、9 月末までに可決または拒否権発動されます。

TechRepublicはOpenAIとMicrosoftにコメントを求めた。

見る： Apple、AIの安全性確保に向けた米国政府の自主的な取り組みに参加

擁護団体が法案を批判

Microsoft と Adobe は、AI 生成コンテンツの検証に関する標準を開発する業界団体である Coalition for Content Provenance and Authority に参加しています。この団体は、DALL-E 3 で使用されるデジタル コンテンツに検証可能なメタデータを埋め込むフレームワークである C2PA メタデータの作成に協力しました。

しかし、マイクロソフトやアドビを含むソフトウェア業界の擁護団体BSAは、AB-3211に反対し、 手紙 4月にカリフォルニア州議会のプライバシーおよび消費者保護委員会に提出された報告書では、以下の点が問題視された。

• 透かしを入れる必要のあるコンテンツの範囲。
• 透かしを検証するためのツールを提供するという要件。
• 提案されている「実行不可能な」通知・報告システム。

それ以来、議員らは法案にいくつかの修正を加えており、企業の懸念を和らげたようだ。

カリフォルニア州、複数のAI関連法案を審議中

AB-3211はSB-1047とは別物であり、 カリフォルニア州の物議を醸すAI法。

SB-1047 は、開発者に厳格な安全要件を課すことで、AI モデルが人類に大規模な損害を与えたり、経済的損失を引き起こしたりするのを防ぐことを目的としています。今月初め、カリフォルニア州歳出委員会は SB-1047 を可決しましたが、法律となるには州議会と上院の承認が必要です。

シリコンバレーの大部分、 OpenAI、 メタ、 グーグル、 そして 抱きしめる顔は、SB-1047を公然と非難した。しかし、今週初め、イーロン・マスク Xに連れて行った 同氏は、この法案が可決されるべきだと感じていることを表明した。同氏は「20年以上にわたり、公衆に潜在的リスクをもたらすあらゆる製品や技術を規制するのと同様に、私はAI規制を主張してきた」と投稿した。

元OpenAI従業員2人も 手紙 ニューサム氏は、SB-1047に反対した元雇用主を批判した。

「OpenAIはSB1047の極めて軽い要件にさえ反対している。そのほとんどはOpenAIが自発的に取り組んでいると主張しており、その取り組みの強さに疑問が生じている」と彼らは書いている。OpenAIは研究者の「 [their] ポジション」あたり ビジネスインサイダー

AB-3211とSB-1047は、 少なくとも65のAI関連法案 議員らは、技術の進歩と消費者保護のバランスを取ることを目的として、今年カリフォルニア州で導入を目指している。