AI安全法案がカリフォルニア州議会を通過

高度なAIモデルの開発者に安全対策の採用を義務付ける物議を醸す法案が、法律化に一歩近づいた。

この法案（SB 1047）は、将来の高度なAIモデルの開発者に対し、その技術が発電所などの重要なインフラへのサイバー攻撃に悪用されるのを防ぐためのガードレールを作成することを義務付けるものである。

開発者は安全計画を司法長官に提出する必要があり、司法長官は開発者が直接管理する AI モデルが公共の安全に危害や差し迫った脅威を与えた場合に責任を問う可能性がある。

スコット・ウィーナー上院議員（民主党、サンフランシスコ）が提出したこの法案は、水曜日に州議会を通過し、賛成41票、反対9票となった。木曜日には州上院で賛成多数で可決された。法案は今、ギャビン・ニューサム知事のオフィスに送られているが、ニューサム知事が法案に署名するか拒否権を発動するかは不明だ。

「イノベーションと安全性は両立可能であり、カリフォルニアはその先頭に立っている」とウィーナー氏は声明で述べた。

ニューサム知事の広報担当者は、法案が知事の机に届いたら評価すると述べた。

ウィーナーの法案はベイエリアのテクノロジーコミュニティで激しい議論を巻き起こした。 AI安全センター、 テスラの最高経営責任者イーロン・マスクは、 LAタイムズ編集委員会 サンフランシスコを拠点とする AI スタートアップ Anthropic 社。

しかし、民主党の議会指導者や、MetaやOpenAIなどの著名なAI企業がこの法案に反対し、この法案がカリフォルニア州のイノベーションを阻害するのではないかと懸念を示した。

元下院議長ナンシー・ペロシ、ロー・カーナ下院議員（民主党、フリーモント）、ゾーイ・ロフグレン下院議員（民主党、サンノゼ）を含む民主党の議会指導者もこの法案に反対し、ニューサム知事に拒否権発動を求めた。彼らはこの法案がカリフォルニア州の経済に打撃を与える可能性があると主張している。 成長するAI産業ChatGPT の開発元である OpenAI の本拠地を訪問し、議会が AI に関連して行っている取り組みについて言及します。

「企業が他の管轄区域で法人化したり、カリフォルニア州でモデルをリリースしないことを決めたりする現実的なリスクがある」と、カーナ、ロフグレン、その他6人の民主党下院議員はニューサム知事に宛てた書簡で述べた。

「カリフォルニア州が消費者、データ、知的財産などを保護する形でAIをリードすることを望んでいるが、SB1047はその追求にとって有益というより有害である」とペロシ氏は声明で述べた。

ウィーナー議員やこの法案を支持する他の議員らはこれに反対し、この法案は国民を守ると同時にイノベーションを促進すると主張している。

「ガードレールを設置しなければならない」と、水曜日午後の議会での採決の前にデボン・マティス議員（共和党、バイセイリア選出）は述べた。「彼らが責任あるプレーヤーとなることを確実にしなければならない」

SB 1047 の支持者は、この法案により開発者は自らが管理する高度な AI モデルの安全性に責任を持つようになり、将来的に壊滅的な AI イベントを防ぐのに役立つ可能性があると主張している。

「テクノロジー企業は市場シェアと利益の最大化を競う競争に囚われているため、AIに関連する重大なリスクを自力で解決できないのではないかと心配しています」と、モントリオール大学教授でケベック人工知能研究所ミラの創設者兼科学ディレクターのヨシュア・ベンジオ氏は今週の記者会見で述べた。「彼らに宿題を自分で採点させて、うまくいくことを期待するわけにはいきません」

支持者たちはまた、AIは潜在的な安全上のリスクをもたらす他の産業と同様に規制されるべきだと主張している。

「これは難しい判断であり、一部の人々を怒らせるだろうが、あらゆることを考慮すると、カリフォルニア州はおそらく SB 1047 AI 安全法案を可決すべきだと思う」とマスク氏は月曜日に X に書いた。「20 年以上にわたり、私は AI 規制を主張してきた。公衆に潜在的リスクをもたらすあらゆる製品や技術を規制するのと同じだ」

今月初め、ウィーナー議員が提案した後、法案は州上院の主要委員会を通過した。 大きな変化これには、偽証罪の罰則の廃止や、高度な AI モデルの安全性に関する開発者向けの法的基準の変更などが含まれます。

サンフランシスコに拠点を置くAIスタートアップ企業アンスロピックのCEO、ダリオ・アモデイ氏は、ニューサム知事に宛てた8月21日の書簡で、この法案の「メリットはコストを上回る可能性が高い」と信じていると述べた。書簡は法案を支持するものではないが、賛否両論に関する同社の見解を伝えている。

「SB 1047 は AI システムの壊滅的なリスクに関する現実的かつ深刻な懸念に対処するものであることを明確にしておきたい」とアモデイ氏は書いている。「AI システムの機能は極めて急速に進歩しており、カリフォルニアの経済にとって大きな期待と大きなリスクの両方をもたらしている」

しかし、OpenAIを含む一部のテクノロジー企業は、変更後も法案に反対していると述べた。

「AIが米国の競争力と国家安全保障に与える広範かつ重大な影響を考慮すると、フロンティアモデルの規制は連邦レベルで策定、実施される必要がある」と、OpenAIの最高戦略責任者ジェイソン・クォン氏はウィーナー氏に宛てた8月21日の書簡で述べた。「州法の寄せ集めではなく、連邦主導の一連のAI政策がイノベーションを促進し、米国が世界標準の開発をリードする立場に立つことになるだろう」

ウィーナー氏は、自身の法案に優先する強力な連邦AI安全法を歓迎すると述べた。

「過去の経験から判断すると、このような [federal] 「法律制定は困難な戦いになるだろう」とウィーナー氏は声明で述べた。「その間、カリフォルニア州は、革新を促進しつつ国民を保護するSB1047のような政策を主導し続けるべきだ」

SB 1047は 約50件のAI関連法案 議会では、雇用、ディープフェイク、安全性など、テクノロジーが国民に与える影響のさまざまな側面に対処する法案が審議されています。