日本

AIが飛躍的に進歩するにつれ、イノベーションが安全性を置き去りにしているのではないかとの懸念が高まる

1月に米軍が元ベネズエラ大統領ニコラス・マドゥロ氏を拘束した際、 AIツールを使った 米国の民間企業が開発した。このツールが具体的に何をしたのかは不明だが、同社の方針では、製品を暴力や武器の開発に使用することはできないとしている。現在、国防総省は、軍による技術使用の制限を主張しているアンスロピック社との関係を断つことを検討していると報じた。 アクシオス。AI の保護措置と国家安全保障との間の緊張は新しいものではありません。しかし、先月の複数の出来事により、兵器開発から倫理的な広告に至るまで、AI の安全性の問題が脚光を浴びています。 これを書いた理由 人工知能は急速に発展しているため、安全性への懸念が十分に注目されていないと懸念する業界関係者もいる。これにより、イノベーション、競争、安全対策のバランスを取る方法についての議論が活発になっています。 「AI 分野に携わってきた多くの人々は、長い間、さまざまな形で安全性について考えてきました」と、民主主義テクノロジーセンターの AI ガバナンス ラボの創設ディレクター、ミランダ ボーゲンは言います。 「しかし今では、こうした会話はより目に見える舞台で行われています。」今月、研究者らが米国の大手AI企業2社を辞任し、消費者データの収集などに関する同社の安全対策が不十分だとして挙げた。というタイトルの2月9日のエッセイで 「何か大きなことが起こっている」 投資家のマット・シューマー氏は、AIは間もなくアメリカ人の雇用を一斉に脅かすだけでなく、その作成者が「予測も制御もできない」方法で行動し始める可能性があると警告した。このエッセイはソーシャルメディアで急速に広まりました。多くのAI安全専門家は、非常に現実的なリスクに対する行動を促す一方で、仮説上のシナリオについて過剰な不安を抱かないよう警告している。人工知能に関する国連ハイレベル諮問機関の元メンバーであるアロンドラ・ネルソン博士は、インドで開催された世界規模のAIサミットに出席中にモニターに電子メールでこう書いた。 「しかし、それらは民主的な審議、規制、そして真の公的説明責任に代わるものではありません。」競争へのプレッシャー12月、ドナルド・トランプ大統領はAIを規制する「面倒な」州法を禁止する大統領令を出した。例えば、彼の命令は、雇用や教育などの分野における「アルゴリズム差別」を禁止するコロラド州の法律を取り上げた。大統領の命令は、AI企業に過剰な規制遵守を強制すれば米国が中国との競争上で不利な立場に置かれる可能性があると主張する共和党からも支持された。その競争意識が、アンスロピックが国防総省から離れる動きの中心となっているようだ。アンスロピックは自社の技術が国内監視の実施や人間の介入なしに発砲する兵器の開発に使用されないよう徹底したいと考えている。しかし国防総省は、 述べた 今年初めに、米軍は「統合において敵対国に対するリードを築かなければならない」と述べた。 [AI]」の報道によると、同社は企業の個別ポリシーに関係なくAI技術の導入を望んでいるという。 アクシオス そして ロイター。AI安全研究者のムリナンク・シャルマ氏は、「私たちは常に、最も重要なことを脇に置いておかなければならないというプレッシャーに直面している」と、公開論文で述べた。 辞表 先週のAnthropicから。同氏は辞任のきっかけとなった具体的な出来事には言及しなかったが、「その結果に直面しないように、世界に影響を与える能力と同等に私たちの知恵を成長させなければならない」と警告した。ボーゲン博士は、AIプロバイダーにモデルに特定のテストを課したり、安全性への投資を強制したりするために設計された政策は、開示要件や拘束力のない推奨事項に薄められることが多いと述べている。「たとえガードレールを設置したい場合でも、迅速に前進することを支持するインセンティブが非常に強いのです」と彼女は言う。世界は「危機に瀕している」のでしょうか？AI の危険性を警告する人々は、実存的な言葉を使用することがあります。OpenAIの元研究者であるゾーイ・ヒツィヒ氏は、ある論文で同社の戦略について「深い留保」があると述べた。 編集者 彼女は先週、ニューヨーク・タイムズ紙に寄稿し、ChatGPTで広告のテストを開始するという同社の決定により、「我々が理解するツールを持たず、ましてや防ぐことができない方法でユーザーを操作する可能性が生じる」ことを懸念している。アンスロピック社に対するシャルマ氏の辞任届は、「世界は危険にさらされている」と警告していた。専門家の中には、そのような言葉遣いは逆効果だと言う人もいる。「その『帰還不能点』の枠組みは非常に力を奪われるものだと思います」とボーゲン博士は言う。彼女は、人々がより多くの意思決定を AI に任せ、仕事でそのテクノロジーを活用することを学ぶにつれて、依存関係が生まれ、それを解くのがますます難しくなっているのではないかと懸念しています。しかし彼女は、人は自分の選択と行動に対して最終的に責任があると言う。「この新しいテクノロジーをどのように扱うかについて決定を下すことが本当に不可能になるという状況には決して到達しないと思います」と彼女は言います。 米国立標準技術研究所の AI 安全性調査員であるキャサリン・エルキンス氏は、AI チャットボットが誰かのデータを使用して操作する可能性など、自分が認識しているリスクの一部について自分が間違っていることを願っていると述べています。しかし、確信が持てるまでは、安全が緊急の優先事項であり続けたいと考えています。「個人的には、テクノロジーが改善されないと考えるよりも、用心深くなって AI のリスクについて考えることに時間を費やしたほうが良いと感じています。」 #AIが飛躍的に進歩するにつれイノベーションが安全性を置き去りにしているのではないかとの懸念が高まる