カリフォルニア州のSB1047法案はAI開発者に責任を課すものであり、 投票が通過したばかり この法案は州議会で審議されており、署名または拒否権発動のため、ギャビン・ニューサム知事に近々送られる見込みだ。この法案が成立すれば、AIの革新と安全性の研究が阻害されるという重大な過ちとなるだろう。この法案は、汎用技術を規制するのではなく、その技術の応用を規制するという根本的な誤りを犯しているため、大きな欠陥がある。
AIは多くの用途で役立ちます。医療機器の一部として、ソーシャルメディアフィードの強化、役立つチャットボットの構築、または欺瞞的な政治ディープフェイクの生成に使用できます。残念ながら、AIプロバイダーには、その技術を下流でどのように使用するかを決定する権限がありません。AIの有益な使用例の数は大幅に増えていますが、 数で勝る 問題のある技術については、技術プロバイダーが誰もそれを不正な目的で使用しないことを保証する方法はありません。
AI のような技術は、問題を解決するために無数の方法で応用できます。AI のような汎用技術の応用は、ほとんどの場合、特定の利点 (または潜在的な害) がもたらされる場所です。そのため、立法者は技術ではなくアプリケーションを規制する必要があります。
電気モーターについて考えてみましょう。電気モーターは、ミキサー、電気自動車、透析装置、誘導爆弾の製造に使用できます。モーターではなくミキサーを規制する方が理にかなっています。さらに、電気モーターメーカーには、誰もそのモーターを爆弾の設計に使用しないことを保証する方法はありません。そのモーターメーカーに、下流での悪質な使用事例の責任を負わせると、彼らは不可能な状況に陥ります。同様に、コンピューターメーカーは、サイバー犯罪者が自社の製品を使用して銀行をハッキングしないことを保証することはできません。鉛筆メーカーは、違法な発言を書くために自社の製品が使用されないことを保証することはできません。言い換えれば、汎用技術が安全かどうかは、技術自体よりも下流での用途に大きく左右されます。
AIの問題のあるアプリケーションを規制する成功例はすでにある。例えば、同意のないディープフェイクポルノは、未成年者を含む多くの人々に害を及ぼす不快なアプリケーションである。米国上院が満場一致で 反抗法案を可決 これに対抗するため、7月にAIが偽の製品レビューを生成するためにも使用されている。連邦取引委員会は、 発行されたガイダンス 今月初めにこれを抑制する措置が取られた。どちらも米国民を守る歓迎すべき動きである。
SB 1047 には他にも問題がある。AI 開発者はすでに、その要件が曖昧でわかりにくいと感じている。つまり、企業は結局、法を遵守するために大勢の弁護士を雇い、官僚組織を作る必要があるということだ。これは特に、無料のオープンソース ソフトウェアに息苦しい影響を与えるだろう。今日のスマートフォン、ラップトップ、Web サイトなど、ほとんどすべての価値あるソフトウェアは、部分的にオープンソースを使用して構築されている。AI の場合、一部の大企業は独自のモデルをトレーニングしている。これらの独自のモデル プロバイダーの中には、無料のオープンソース ソフトウェアと競合することを嫌がり、それを阻止するための規制を求めて熱心にロビー活動を行っているものもある。
しかし、オープンバージョンのモデルはAIの安全性研究にとって非常に重要であり、学術研究者に次のような能力を与えている。 最先端のモデルを研究する、 問題を見つける、 そして 解決策を提案するオープンモデルも、 FTCは指摘する—競争を促進します。残念ながら、オープンソースの取り組みのコンプライアンス コストが上昇すると、オープン モデルのリリースが阻害され、AI の競争力と安全性が低下します。
SB 1047は最初に提案されて以来、何度も修正されてきました。これらの修正のいくつかは、法案をそれほど悪くないものにしました。たとえば、 偽証罪 開発者に対する罰金（懲役刑の可能性もあった）と、開発者が法案の一部要件から免除される金額のしきい値（作業の性質に応じて1,000万ドルまたは1億ドル）を追加するという案も出されている。しかし、それでもこの法案は有害だ。AI開発の仕組みや、AI開発が将来どこに向かうのかについての理解を反映していない。
AI は、数十億の人々に恩恵をもたらす新しい技術です。AI の有益な使用例、そして少数の有害な使用例はまだ十分に理解されていません。カリフォルニア州知事は、AI の仮説上の害悪に関する無責任な恐怖をあおる言動に流されて、イノベーションを抑制し、オープンソースを妨害し、市場競争を妨げるような措置を講じるべきではありません。カリフォルニア州、そして米国全体は、AI の技術開発を妨げる法律を可決するのではなく、まだ特定されていない害悪の可能性をより深く理解するための研究に投資し、その有害な用途をターゲットにすべきです。
アンドリュー・ン氏は ディープラーニングAI Fundのマネージングゼネラルパートナー、LandingAIのエグゼクティブチェアマン、Courseraの会長兼共同創設者、スタンフォード大学の非常勤教授を務めています。2023年には、世界で最も影響力のあるAI人物のTime100 AIリストに選ばれました。
TIME の必読記事
#カリフォルニア州の #の問題点