カリフォルニア州知事ギャビン・ニューサム、画期的なAI安全法案に拒否権を発動

カリフォルニア州知事のギャビン・ニューサムは、大手テクノロジー企業の強い反対に直面していた画期的な人工知能（AI）安全法案を阻止した。

提案されている法案は、米国で AI に対する最初の規制の一部を課すことになるでしょう。

ニューサム氏は、この法案はイノベーションを抑制し、AI開発者の州外移転を促す可能性があると述べた。

この法案を起草したスコット・ウィーナー上院議員は、この拒否権により企業は政府の監視なしに「極めて強力な技術」の開発を続けることができると述べた。

この法案では、最先端のAIモデルに安全性テストを受けることが義務付けられていた。

そうなれば、開発者は自社のテクノロジーにいわゆる「キルスイッチ」が確実に含まれるようにする必要があっただろう。これにより、組織は AI システムが脅威になった場合に隔離し、効果的にスイッチをオフにすることができます。

また、いわゆる「フロンティアモデル」、つまり最も強力なAIシステムの開発には公的監視が義務付けられることになるだろう。

この法案は、「AIシステムが高リスク環境に導入されているかどうか、重要な意思決定が含まれているかどうか、または機密データの使用が含まれているかどうかを考慮していない」としている。 ニューサム氏は声明でこう述べた。。

「その代わり、この法案は、大規模なシステムがそれを導入する限り、最も基本的な機能にも厳しい基準を適用する」と同氏は付け加えた。

同時にニューサム氏はAIのリスクから国民を守る計画を発表し、主要な専門家にテクノロジーの安全策の開発を支援するよう依頼した。

ニューサム氏は過去数週間で、誤った情報や、生成AIを利用して作成された画像、動画、音声コンテンツを含むいわゆるディープフェイクの取り締まりを目的とした法案を含む17の法案にも署名した。

カリフォルニアには、ChatGPT メーカーである OpenAI を含む、世界最大かつ最先端の AI 企業が数多く拠点を置いています。

多くの世界最大手のテクノロジー企業の中心地としての州の役割は、この分野を規制する法案が業界に国家的、世界的に大きな影響を与えることを意味する。

ウィーナー氏はこう言った この法案に拒否権を発動する決定により、AI企業は「特にハイテク産業を意味ある形で規制することに関して議会が麻痺し続けていることを考慮すると、米国の政策立案者から拘束力のある制限を受けられない」ことになる。

AIに保護措置を課す議会の取り組みは行き詰まっている。

OpenAI、Google、Metaなどの大手ハイテク企業はこの法案に反対を表明し、重要なテクノロジーの開発を妨げると警告した。

Counterpoint Researchの上級アナリスト、Wei Sun氏は、「汎用技術としてのAIはまだ初期段階にあり、提案されているように技術自体を制限するのは時期尚早だ」と述べた。

「むしろ、将来的に害を及ぼす可能性のある特定のアプリケーションシナリオを規制する方が有益だろう」と彼女は付け加えた。