9 月 29 日、カリフォルニア州知事ギャビン ニューサム (民主党) は、フロンティア AI モデルのための安全かつ安全なイノベーション法に拒否権を発動しました (SB1047）これにより、大規模な AI システム開発者向けの公安基準を確立するための数か月にわたる取り組みは当面終了します。 年次第三者による安全監査、シャットダウン機能、詳細な安全およびセキュリティプロトコル、インシデント報告要件を含む、SB 1047 の広範な AI 安全およびセキュリティ体制は、おそらく確立されていたでしょう。 実際には 大型 AI モデルに対する国家安全基準が制定されれば。拒否権発動はまれな国民の支持に続いた 電話をかける 名誉議長を含むカリフォルニア州議会代表団のメンバーから ナンシー・ペロシ （民主党-カリフォルニア州）とロー・カンナ下院議員（民主党-カリフォルニア州）、アンナ・エスクー下院議員（民主党-カリフォルニア州）、ゾーイ・ロフグレン下院議員（民主党-カリフォルニア州）、ジェイ・オバノルテ下院議員（共和党-カリフォルニア州）—知事に 拒否する 請求書。
彼の中で 拒否権メッセージ、ニューサム知事は次のように述べています。[AI] 安全プロトコルを採用する必要があります」と「[p]「積極的なガードレール」と「悪者に深刻な結果」をもたらすが、同氏はSB 1047が「AIモデルの開発に必要なコストと計算数」に基づいて規制を行っていると批判した。 SB 1047 は、1 億ドル以上の価値がある 1026 FLOPS 以上の計算能力を使用してトレーニングされた AI モデルとして「対象モデル」を定義していました。 「システムの実際のリスク」ではなく、コストとコンピューティングのしきい値に依存している点で、ニューサム氏は、SB 1047 は「大規模なシステムがそれを導入している限り、最も基本的な機能にも厳しい基準を適用している」と主張しました。ニューサム氏は、SB 1047は「この急速に進む技術を制御することについて、国民に誤った安心感を与える」可能性があると付け加えた。[s]「より小型で特殊なモデル」は「SB 1047 の対象となるモデルと同等かそれ以上に危険」である可能性があります。
拒否権発動はニューサム氏に続く 以前の声明、9月17日、「甚大な影響」に懸念を表明した。 [SB 1047] 「特にオープンソースコミュニティにおける萎縮効果」やカリフォルニアの AI 産業の競争力への潜在的な影響を含む。
コロラド州の SB 205（5 月に可決された画期的な AI 反差別法）とカリフォルニア州のリスクベースのアプローチを踏襲 AB 29308月に州上院を通過できなかった同様の自動意思決定法案について、ニューサム氏は「AIシステムが高リスク環境に導入されているか、重要な意思決定が含まれているか、あるいは機密データ。」
しかし、コロラド州のジャレッド・ポリス知事がAI規制に対する統一的な連邦アプローチを求めたのとは対照的に、AI規制に対する「カリフォルニア州のみのアプローチ」が「正当化される可能性がある」とニューサム氏は指摘した。 。 。特に議会による連邦政府の行動が欠如している。」ニューサム氏はまた、デジタルレプリカ、選挙ディープフェイク、AI生成のCSAMを規制または禁止する法律など、「特定の既知のリスクを規制する」多数のAI法案が署名して成立したことも指摘した（AB 1831）。
議会は 3 分の 2 の投票で知事の拒否権を無効にすることができますが、1979 年以来その措置を講じていません。その代わりに、来年には議会が AI 安全法を再検討すると予想されます。
* * *
私たちをフォローしてください グローバル・ポリシー・ウォッチ、 グローバルテックの内部、 そして 内部プライバシー 主要な AI およびその他のテクノロジーの立法および規制の開発に関する継続的な最新情報を提供するブログ。
#カリフォルニア州知事AI安全法案に拒否権