ギャビン・ニューサムのAI安全法案拒否権がカリフォルニアに意味するもの

大規模な人工知能システムの不正行為を防ぐことを目的としたカリフォルニア州の規制の主要な部分が阻止され、シリコンバレーの業界は分裂したままとなっている。

知事 ギャビン・ニューサムAI 規制に関する 17 の新しい法案に署名しながら、最近 SB 1047 に拒否権を発動したことで、カリフォルニア州の AI 規制は現在どのような状況にあるのかという疑問が生じています。

SB 1047 (フロンティア人工知能モデルの安全かつ安全なイノベーション法) は、潜在的な壊滅的な危害を防ぐために、高度な AI モデルの開発者向けに厳格な安全プロトコルを確立することを目的としていました。カリフォルニアは AI イノベーションの世界的な拠点であるため、この拒否権はテクノロジー業界、政策立案者、一般大衆に影響を及ぼします。

AI規制の岐路

スコット・ウィーナー上院議員が執筆したSB 1047は、「フロンティアモデル」（現行モデルの能力を超える高度なAIシステム）に取り組む開発者向けの規制枠組みの創設を目指した。この法案では、開発または大規模なコンピューティング能力の利用に1億ドル以上の費用がかかるAIモデルの安全性テストを含む、包括的な安全対策を義務付けた。また、危険な結果や意図しない結果が発生した場合にモデルをシャットダウンするための「キル スイッチ」の実装も必要でした。

ウィーナー上院議員は拒否権発動に失望を表明した。同氏は、「今回の拒否権は、カリフォルニア州がデータプライバシーやネットの中立性に関して行ったように、再び革新的な技術規制をリードする機会を逃したことになる。その結果、私たち全員の安全が低下する」と、以前ソーシャルメディアプラットフォームXで述べた。 ツイッター。

同氏は、拘束力のある規制がなければ、強力なAIモデルを開発している企業は本質的に監視されることなく自由に運営でき、国民と政策立案者の両方にとって「憂慮すべき現実」を生み出していると警告した。

「大規模な災害が起こるのを待って行動を起こすわけにはいかない」とウィーナー氏は付け加えた。同氏はAIの安全対策を民間企業の手に委ねることの潜在的な危険性を強調し、業界の自主的な取り組みは「強制力がなく、国民にとってうまくいくことはほとんどない」と主張した。

ニューサム知事の拒否権発動の正当性

ニューサム知事は、2024年9月29日付の拒否権を発動した声明で、SB 1047はAIを規制する最適なアプローチではないとの懸念を表明した。同氏は、この法案はリスクの低いAIアプリケーションに対しても過度に厳しい規制を課すことになり、イノベーションを妨げる可能性があると主張した。

「SB 1047は、最も高価で大規模なモデルのみに焦点を当てることで、この急速に変化する技術の制御について国民に誤った安心感を与える可能性のある規制枠組みを確立している」とニューサム氏は述べた。同氏は、AIの急速な進歩を踏まえ、規制における適応性の必要性を強調し、実証的証拠と科学的分析に基づいた政策を提唱した。

「私は同意しません…公衆の安全を守るためには、AIシステムと能力の実証的な軌道分析に基づいていない解決策で妥協しなければならないということです」と彼は書いた。 「最終的には、AI を効果的に規制するためのフレームワークは、テクノロジーそのものと歩調を合わせる必要があります。」

AIの安全性に対する新たな取り組みを発表

拒否権発動と同じ日に、ニューサム知事はカリフォルニア州民を保護しながら、安全で責任あるAIの推進を目的とした一連の取り組みを発表した。彼は、AI 規制に対するカリフォルニア州のアプローチの形成を支援するために、次のような一流の専門家に協力を求めました。

• スタンフォード人間中心人工知能研究所の共同所長であるフェイフェイ・リー博士は、「AI のゴッドマザー」とも呼ばれています。
• ティノ・クエヤル氏は、カーネギー国際平和基金の会長であり、コンピューティング研究の社会的および倫理的影響に関する米国科学アカデミー委員会のメンバーでもあります。
• ジェニファー・ツアー・チェイエス、カリフォルニア大学バークレー校コンピューティング、データ サイエンス、社会学部長。

「私たちには、GenAI導入による壊滅的なリスクからカリフォルニア州民を守る責任があります。私たちは、この急速に変化するテクノロジーに適応し、その可能性を活用して公益を促進するソリューションに向けて思慮深く、そして迅速に取り組んでいきます」とニューサム氏は述べた。

知事は州政府機関に対し、エネルギー、水道、通信などの重要なインフラ分野に焦点を当て、潜在的な壊滅的なAI関連事象によるリスク評価を拡大するよう指示した。同氏はここ数週間でAI規制に関連する他の17の法案にも署名し、カリフォルニア州のAIに関する立法パッケージを国内で最も包括的なものの1つとした。

拒否権に対する反応

テクノロジー業界のリーダーによるサポート

この拒否権発動は、イノベーションが抑制される可能性を懸念する一部のテクノロジー業界から歓迎された。スタートアップアクセラレーターY CombinatorのCEO、Garry Tan氏はXに対し、「SB 1047を拒否し、カリフォルニアでイノベーションを支援してくれた@GavinNewsomに感謝する。責任あるAI開発を提唱するために6月以来結集してきた@ycombinatorコミュニティに多大な感謝を示す」と述べた。スタートアップを抑圧することなく、私たちはテクノロジーを前進させ続けます。」

「6月以来、私たちは創業者の声が確実に届くよう懸命に取り組んできました。私たちは@linakhanFTC（リナ・カーン連邦取引委員会委員長）のようなオープンソース支持のリーダーを集めて、サンフランシスコでタウンホール形式のイベントを企画しました。 @scott_wiener とともに、彼の地区の何百人もの AI 創設者が私たちに参加して、AI のオープン性と競争力の維持について話し合いました。」と Tan 氏は付け加えました。

ヤン・ルカン氏、ニューヨーク大学教授、主任AI科学者 メタ、また拒否権発動を歓迎し、「SB-1047に拒否権を発動してくれた@GavinNewsom知事に感謝します。オープンソースAIコミュニティはあなたの賢明な決定に感謝しています。」と述べた。

Yコンビネーターや他の新興企業擁護者らは、SB 1047は新興企業に負担のかかる規制を課す可能性があり、テクノロジーとイノベーションの世界的リーダーとしてのカリフォルニア州の地位を妨げる可能性があると主張した。

ハリウッドとAI安全擁護派は失望

対照的に、125人以上のハリウッドの俳優、監督、プロデューサーからなる連合は以前、ニューサム知事に法案への署名を促す公開書簡に署名していた。 俳優のジョセフ・ゴードン＝レビットが拒否権発動を批判、「AIは非常に良い目的で使用される可能性があり、今後も使用されるでしょう。しかし、ソーシャルメディアで見てきたように、政府が何らかのルールを定めなければ、深刻な有害な副作用が生じる可能性もあります。」と述べています。

マーク・ラファロもこうした意見に同調し、ニューサム氏の拒否権を化石燃料や化学物質などの産業を規制しようとする失敗した試みと比較した。 「この法案は、AIモデルがもたらす私たち全員への壊滅的なリスクに対処する点でユニークであり、業界全体を規制しようとしている」とラファロ氏は述べた。

Anthropic、Meta などの従業員がこの法案を支持

規制を求める声に大きな重みを加えているのは、以下を含む主要な AI 研究所の 100 名を超える従業員です。 OpenAI、 グーグル DeepMind、Anthropic、Meta、xAIはニューサム知事にSB 1047への署名を求める公開書簡に署名していた。 署名者にはジェフリー・ヒントンのような著名人も含まれていた、しばしば「AIのゴッドファーザー」と呼ばれる、著名なコンピューターサイエンス教授のスコット・アーロンソン。

「最も強力なAIモデルは、生物兵器へのアクセスの拡大や重要インフラへのサイバー攻撃など、近い将来深刻なリスクを引き起こす可能性があると私たちは信じている」と書簡には述べられている。 「フロンティアAI企業にとって、最も強力なAIモデルが深刻な危害を引き起こす可能性があるかどうかをテストし、そのようなリスクに対して合理的な安全対策を講じることは実現可能であり、適切である。」

従業員らは、先端技術の規制には本質的な不確実性があるにもかかわらず、SB 1047 は有意義な前進であると強調した。 「SB 1047に署名して法律として成立させることをお勧めします」と彼らは結論づけた。

OpenAIの内部告発者が懸念を表明

ChatGPT開発者OpenAIの元従業員であるウィリアム・サンダース氏とダニエル・ココタジロ氏は、2024年8月に別の書簡を発表し、カリフォルニアの大手AI企業の1つにおける内部の懸念を強調した。彼らは、OpenAIのような企業が汎用人工知能（AGI）の構築を競っていると警告した。 適切な安全対策が講じられていない場合。

「私たちがOpenAIに参加したのは、同社が開発している信じられないほど強力なAIシステムの安全性を確保したかったからです」と彼らは書いている。 「しかし、私たちはOpenAIがAIシステムを安全に、誠実に、責任を持って開発してくれるという信頼を失ったため、OpenAIを辞めました。」

彼らは、AI モデルの時期尚早な導入、セキュリティ侵害、内部の反対意見の抑圧など、自信を損なった事件について詳しく説明しました。彼らは、SB 1047は高リスクのAIシステムに関する決定に必要な公的関与を生み出し、内部告発者を保護し、企業に責任を問うだろうと主張した。

「SB 1047に関するOpenAIの苦情は建設的ではなく、誠意があるとは思えない」と彼らは主張した。 「私たちは、カリフォルニア州議会とニューサム知事が正しい行動をとり、SB 1047を法律として可決することを望んでいます。」

ハイテク業界団体は拒否権を支持していた

IBM、メタ、インテル、オラクルなどの大手テクノロジー企業のメンバーで構成されるAIアライアンスは拒否権に賛成していた。彼らは、SB 1047は技術革新を遅らせ、安全性とセキュリティの進歩を妨げ、カリフォルニアの経済成長を損なうと主張した。

「この法案の技術的に実行不可能な要件は、AI分野のイノベーションを萎縮させ、この分野の最先端へのアクセスを低下させることになり、それによって法案の定められた目的に直接矛盾する」と同盟は述べた。

彼らはまた、この法案がオープンソースの AI 開発に与える影響について懸念を表明し、オープンに共有されるモデルには非現実的な義務を課すことでオープンソース開発者に不利益を与える可能性があると主張した。

カリフォルニア州の AI 規制の前進

ニューサム知事の政権は、専門家や利害関係者との協力を通じて他のAI規制の策定に取り組んでいるようだ。フェイフェイ・リー博士のような AI 専門家の関与は、科学に基づいた適応可能な規制の枠組みを構築するための協調的な取り組みを示しています。

「安全で責任ある AI は、カリフォルニアの活気に満ちたイノベーション エコシステムにとって不可欠です。この強力なテクノロジーを効果的に管理するには、科学的証拠に頼って、イノベーションを促進しリスクを軽減する最適な方法を決定する必要があります。」とリー博士は述べました。

カリフォルニア大学バークレー校のジェニファー・ツアー・チェイエス氏は、学術研究を促進しながら堅牢なイノベーション経済を育成することの重要性を強調した。 「こうすることで、AI が最も多くの人々に最も多くの方法で利益をもたらし、同時に悪者や重大な危害から守ることができるのです」と彼女は述べた。

ニューサム知事は、新たな取り組みに加えて、ディープフェイク、AI透かし、デジタル肖像の保護、AIが生成する誤情報との戦いなどの問題に対処するAI規制関連の他の17の法案に署名した。

「私たちにはGenAI導入による潜在的な壊滅的なリスクからカリフォルニア州民を守る責任がある」とニューサム氏は述べた。 「私たちは、この急速に進歩するテクノロジーに適応し、公共の利益を促進するためにその可能性を活用するソリューションに向けて、思慮深く、そして迅速に取り組んでいきます。」

専門家らは、SB 1047がなぜ通過しなかったのかを検討した。 KPMGの規制洞察リーダー、エイミー・マツオ氏はLinkedInに投稿し、「SB 1047の拒否権は、AI規制に関する広範な課題と、企業の効率性とイノベーションを不当に妨げることなく規制のガードレールのバランスを取る複雑さを示していると思う」と投稿した。

一方、ベンチャーキャピタルの投資家でイノベーションストラテジストのウィリアム・キルマー氏はLinkedInでSB1047を「AI規制に対する最小限のアプローチ」と呼び、「その範囲が限られているため、十分に進んでいないという懸念を理由にギャビン・ニューサム知事がこの法案に拒否権を発動した可能性が高い」と述べた。 。」

「この法案は構築に1億ドル以上かかるAIモデルのみを対象としており、Meta、OpenAI、 アルファベット 株式会社、および マイクロソフト。それに比べて、次のようなより包括的な対策には及ばない。 欧州連合 AI法か中国のAI規制だ」と彼は付け加えた。

ニューズウィーク スコット・ウィーナー上院議員の事務所にコメントを求めた。ギャビン・ニューサム知事の事務所は、私たちに次のように指示する以上のコメントを拒否した。 公式拒否権メッセージ 9月29日に発売されました。