1734205831
2024-12-13 17:00:00
発表されたばかりの AI 安全性インデックスは、リスク評価の取り組みと安全手順に関して大手 AI 企業 6 社を格付けしました…そのクラスのトップは Anthropic で、総合スコアは C でした。残りの 5 社は、Google DeepMind、Meta、OpenAI、 xAI と Zhipu AI は D+ 以下の評価を受け、Meta は完全に不合格でした。
「この目的は誰かに恥をかかせることではありません」と、この報告書を発表したマサチューセッツ工科大学の物理学教授であり、生命未来研究所の所長でもあるマックス・テグマーク氏は言う。 「企業に改善へのインセンティブを与えるためです。」同氏は、大学が米国のニュースやワールドレポートのランキングを見るのと同じように、企業の幹部がこの指数を見てくれることを望んでいる。彼らは採点されるのが好きではないかもしれないが、成績が世に出て注目を集めれば、来年はもっと成績を上げようという意欲を感じるだろう。
彼はまた、これらの企業の安全チームで働く研究者を支援したいと考えています。企業が安全基準を満たすよう外部からの圧力を感じていない場合、テグマーク氏は次のように述べています。「そうすれば、社内の他の人々はあなたのことをただの迷惑者、物事を遅らせて機械に砂利を投げ込もうとする人物とみなすでしょう。」しかし、これらの安全研究者が突然会社の評判を向上させる責任を負うことになった場合、彼らはリソース、尊敬、影響力を得ることができます。
Future of Life Institute は、強力なテクノロジーによる真に悪い結果を人類が回避できるよう支援することに特化した非営利団体で、近年は AI に重点を置いています。 2023年、同団体は後に「一時停止書簡」として知られる文書を発表し、AI研究所に対し、先進モデルの開発を6か月間一時停止し、その時間を安全基準の策定に充てるよう求めた。イーロン・マスク氏やスティーブ・ウォズニアック氏などの著名人がこの書簡に署名した（現在までに合計3万3707人が署名している）が、両社は立ち止まることはなかった。
この新たな報告書も問題の企業によって無視される可能性がある。 IEEE スペクトラム すべての企業にコメントを求めましたが、Google DeepMind のみが返答し、次の声明を出しました。「この指数には Google DeepMind の AI 安全性への取り組みの一部が組み込まれており、業界で採用されているベンチマークが反映されていますが、AI の安全性に対する当社の包括的なアプローチは、キャプチャされたものを超えています。 。私たちは技術の進歩とともに安全対策を継続的に進化させることに今後も取り組んでいきます。」
AI 安全性指数による企業の格付け方法
同指数は、リスク評価、現在の危害、安全フレームワーク、存続安全戦略、ガバナンスと説明責任、透明性とコミュニケーションの6つのカテゴリーで企業の業績を評価した。関連する研究論文、政策文書、ニュース記事、業界レポートなどの公開情報を利用しました。審査員らは各企業にもアンケートを送ったが、アンケートに回答したのはxAIと中国企業のZhipu AI（現在最も有能な中国語LLMを保有している）だけで、透明性の点でこの2社のスコアが上昇した。
採点は、カリフォルニア大学バークレー校教授のスチュアート・ラッセル氏やチューリング賞受賞者のヨシュア・ベンジオ氏などの著名人を含む7人の独立した査読者によって行われ、超知能AIは人類に存亡の危機をもたらす可能性があると述べた。査読者には、カーネギーメロン大学のアトゥーサ・カシルザデ氏やエンコード・ジャスティスの創始者スネハ・レヴァヌール氏など、アルゴリズムの偏見や有害な言語などのAIの短期的な害に焦点を当ててきたAIリーダーも含まれている。
そして全体として、査読者は感銘を受けませんでした。 「AI 安全性インデックス プロジェクトの調査結果は、AI 企業で『安全性』を掲げた多くの活動が行われているにもかかわらず、それがまだそれほど効果的ではないことを示唆しています」とラッセル氏は言います。「特に、現在の活動はどれも安全性を定量的に保証するものではありません。また、想像を絶する膨大な量のデータで訓練された巨大なブラックボックスを介した AI への現在のアプローチを考慮すると、そのような保証を提供することは不可能であるように思えます。そして、これらの AI システムが大きくなるにつれて、それはさらに難しくなるでしょう。言い換えれば、現在のテクノロジーの方向性では必要な安全性の保証を決してサポートできない可能性があり、その場合は本当に行き止まりです。」
Anthropic は全体的なスコアと特定のスコアで最高を獲得し、現在の被害に対する取り組みで唯一の B- を獲得しました。レポートでは、Anthropic のモデルが主要な安全ベンチマークで最高のスコアを獲得していると述べています。同社には「責任あるスケーリングポリシー」もあり、壊滅的な危害を引き起こす可能性について自社のモデルを評価し、リスクが高すぎると判断したモデルは導入しないことを義務付けている。
6 社すべてが、存続安全戦略に関して特に悪い結果を出しました。査読者は、全企業が汎用人工知能 (AGI) を構築する意向を表明しているが、AGI が人間の価値観と一致し続けることを保証するための何らかの戦略を明確に示しているのは Anthropic、Google DeepMind、OpenAI だけであると指摘しました。 「実のところ、私たちよりはるかに賢い新種を制御する方法を誰も知りません」とテグマーク氏は言う。 「審査委員会は、 [companies] 何らかの初期段階の戦略がありましたが、それらは十分ではありませんでした。」
この報告書はAI企業や政策立案者に対していかなる勧告も出していないが、テグマークはその調査結果が規制上の監視、つまりAI製品が市場に出る前に承認する米国食品医薬品局に相当する政府機関の必要性を明らかに示していると強く感じている。 。
「これらの企業のリーダーたちは、どれほど心優しい人であっても、誰も抜け出すことのできない底辺への競争に陥っているように感じます」とテグマーク氏は言う。同氏によると、現在、企業は市場で競合他社に負けたくないため、安全性試験のペースを緩めたがらないという。 「一方、安全基準がある場合、その代わりに、誰が最初に安全基準を満たせるかという商業的な圧力がかかります。なぜなら、そうすれば、彼らが最初に販売して、最初にお金を稼ぐことができるからです。」
あなたのサイトの記事から
ウェブ上の関連記事
#OpenAIGoogleDeepMindMeta #が #の安全性で悪い評価を受ける