科学＆テクノロジー

カリフォルニア州がテクノロジー規制と成長に取り組む中、AI企業は緊張状態にある

シリコンバレーは、世界中のAI開発のペースを根本的に変える可能性のあるカリフォルニア州の画期的な法案をめぐって意見が分かれている。カリフォルニア州上院議員スコット・ウィーナー氏が SB1047 2月に、 そしてそれ以来、両党の議員から支持を獲得してきた。 この法案は6月に上院のプライバシーおよび消費者保護委員会を通過し、昨年下院の歳出委員会を通過した。 今週中に議会全体で法案の採決が行われる予定です。カリフォルニア州は、AIの世界的な軍拡競争のリーダーとしての地位を確立しており、AI企業トップ50社のうち35社が州内に拠点を置いている。 ブルッキングス研究所の報告書。カリフォルニア州知事ギャビン・ニューサム氏は、同州が世界的な AI の先駆者としての地位をさらに高めるために尽力してきた。今年初め、カリフォルニア州は州職員のトレーニング プログラムを発表し、生成 AI サミットを開催し、交通渋滞や言語のアクセシビリティなどの課題にこの技術がどのように対処できるかを理解するためのパイロット プロジェクトを立ち上げた。今月、州は チップメーカーNvidia このプログラムは、テクノロジーを活用して雇用創出を支援し、イノベーションを促進し、AIを活用して日常の問題を解決する方法について州民を教育するものです。しかし、AI の可能性に対する期待が高まる一方で、AI が人類に及ぼす危険性についても少なからず懸念が寄せられている。つまり、カリフォルニア州は AI 産業を規制することと、期待される成長を抑制することの間で微妙なバランスを取らなければならないということだ。5月にサンフランシスコで開催されたAIイベントで、 ニューサム氏は「もし私たちが過剰に規制したり、過剰に甘やかしたり、光り輝くものを追いかけたりすれば、私たちは危険な立場に陥る可能性がある。」ニューサム知事は9月に、この技術の責任ある導入を確実にするためのいくつかの条項を要求し、州政府機関にその最善の使用法を検討するよう指示する行政命令に署名した。ニューサム知事はSB1047について公に意見を述べていない。知事事務所はBusiness Insiderからのコメント要請には応じなかった。しかし、この法案が成立すれば、AI業界を規制するこれまでで最も徹底した試みとなるだろう。 SB 1047が何を変えるのか法案の立案者 目標を言う 「最大かつ最も強力な AI システムの開発者向けに、明確で予測可能かつ常識的な安全基準を確立することにより、大規模な人工知能システムの安全な開発を確保すること」です。この規制は、訓練に1億ドル以上かかるモデルや、高度な計算能力を必要とするモデルを開発している企業に適用される。これらの企業は、新技術を一般に公開する前に安全性をテストする必要がある。また、モデルに「完全シャットダウン」機能を組み込む必要があり、すべての技術適用に対して責任を負うことになる。この法案はまた、AI開発者に対する法的基準を確立し、カリフォルニア州司法長官が企業を訴えることができる「違法行為」の概要を定め、内部告発者に対する保護を設定し、AIモデルの計算制限を設定し、規制ガイドラインを発行する委員会を設置する。大手テック企業の考えこの法案がおそらく影響を与えるであろう開発業者らは歓迎していない。大規模言語モデルの構築とトレーニングに数百万ドルを注ぎ込んでいるMeta、OpenAI、Anthropicなどの企業は、州議会議員に改革を求めてロビー活動を行っている。Metaは、当初の法案はイノベーションを妨げ、企業がモデルをオープンソースとして認める可能性を低くするだろうと述べた。「この法案は、オープンソースAIのリリースを積極的に阻止している。なぜなら、プロバイダーは、耐え難い法的責任に直面することなくモデルをオープンソース化する手段がないからだ。」 メタは手紙に書いた 6 月にウィーナー氏にこの提案について報告した。これにより、中小企業が「無料ですぐに利用できる、微調整されたモデルを使用して、他の企業、政府、市民社会グループによって使用されることが多い新しい仕事、ビジネス、ツール、サービスを生み出す」可能性が低くなり、中小企業のエコシステムに影響を及ぼす可能性がある。人類学的安全性を重視するAI企業と自らを位置づける同社は、法案の初期バージョンに満足せず、議員らに変更を求めてロビー活動を行った。法案は、壊滅的な事故が起きる前に厳格な法律を施行するのではなく、企業が安全でないモデルを構築するのを阻止することに重点を置くよう求めている。また、1億ドルの基準を満たす企業は、安全性テストの独自の基準を設定できるべきだと示唆している。この法案はベンチャーキャピタリストや企業幹部、その他のテクノロジー業界関係者からも批判を浴びている。アンドリーセン・ホロウィッツのゼネラルパートナーであるアンジニー・ミドハ氏は、 それを呼んだ 「私が長い間目にしてきた中で最も反競争的な提案の一つだ」と彼は言う。立法者は「特定の高リスクアプリケーションと悪質なエンドユーザーの規制」に重点を置くべきだと彼は考えている。カリフォルニア州議会議員らは提案された変更のいくつかを施行したが、そのすべてが 法案の最新版改訂版では、カリフォルニア州司法長官事務所が壊滅的な事態が起こる前にAI開発者を訴えることを禁止している。また、法案は当初、新法の施行を監督する新しい政府機関の設置を求めていたが、その後、その機関は州の政府運営局内の委員会に縮小された。アンスロピックの広報担当者はBIに対し、「新しい法案の文言が発表され次第、検討中だ」と語った。メタとOpenAIはコメント要請に応じなかった。小規模な創業者は不安を抱いているものの、少し楽観的でもある。企業向け生成AI企業Articul8の創業者兼CEOのアルン・スブラマニヤム氏は、新しい取締役会の「広範な権限」や取締役の任命方法については誰も理解していないとBIに語った。また、この法案は大手テック企業以外の企業にも影響を与えると考えている。資金力のあるスタートアップ企業でさえも影響を受けるからだ。 1億ドルのトレーニング基準を満たす可能性があります。同時に、彼は法案の成立を支持すると述べた。 パブリック クラウド コンピューティング クラスター…