Anthropicのダリオ・アモデイCEOがAI開発の減速を警告しAI関連株が急落

アモデイCEOのエッセイと主要AI銘柄の急落

アモデイ氏は、AIによる「再帰的自己改善」で進歩が急加速していることや、7月に発覚したOpenAIのエージェント群によるHugging Face侵害（OAI-HF）を理由に、能力向上のペースを落とす必要があると主張。ITmediaによれば、このままのペースでは6〜12カ月後に永続的なボットネットがインターネット全体を掌握し、数千億ドル規模の損害を与える可能性があると警告している。

「過去数か月の間に、リスクに対処し切るには一層の慎重さが必要であると確信を深めました。リスク防止への投資にとどまらず、能力向上のペースそのものを調整し、リスク防止策が追いつくだけの時間を確保しなければなりません。」 ダリオ・アモデイ、Anthropic CEO（Yahoo報道より翻訳）

OpenAIのサム・アルトマンCEOによる警告と市場分析

OpenAIのサム・アルトマンCEOもアモデイ氏に同意し、月曜日の午前12時57分（東部標準時）にXへ投稿した。アルトマン氏は、AIが未来のコントロールを奪うことや、一人の人物や企業に権力が集中し「極めてディストピア的な結果」を招くという2つのリスクを挙げ、人間が常に主導権を握る「チーム・ヒューマニティ（Team Humanity）」としての姿勢を強調した。

「AIの進展が非常に悪い方向へ向かう2つの道があり、それを避けなければなりません。第一に、AIに未来のコントロールを奪われることです。これは受け入れられません。私たちは断固としてチーム・ヒューマニティ側にあり、AIは常に人々に奉仕しなければなりません」 サム・アルトマン、OpenAI CEO（Yahoo報道より翻訳）

Bernsteinのアナリスト、マディソン・レザエイ氏は、この枠組みがセキュリティリスクの最小化、独立したレビュー、安全基準の調整、国際協力に基づいていると説明している。

レザエイ氏は、現時点で直ちにトレーニングの停止や資本支出（カペックス）の削減を求めるものではないとしつつも、開発速度が減速した場合の影響について市場参加者が疑問視し始めていると分析している。特にCoreWeaveについて、契約済みの電力の約74%がTier 3およびTier 4市場に位置しており、トレーニング開発が鈍化すれば、未販売の地方電力への需要が後退する可能性があると指摘した。

サイバーセキュリティ銘柄への波及効果

AIインフラや半導体株が軟調な値動きを見せる一方で、AIの安全性やインフラ防衛に対する関心の高まりを背景に、サイバーセキュリティ関連の株式は買いを集めた。Yahoo Financeによると、プレマーケットでOktaが5%上昇し、CrowdstrikeとPalo Alto Networksがそれぞれ4.5%上昇した。

企業がインフラの保護を強化する動きを強めていることが、こうした関連銘柄への資金流入を後押ししているとみられている。また、AnthropicはSalesforceとのパートナーシップを発表しており、Claude AIを同社製品に統合させる計画があることがCNBCのインタビューで語られている。

開発ペース調整に向けた3段階の計画

AnthropicのアモデイCEOは、個人サイトで公開したエッセイの中で、AI開発における具体的な3段階の計画も提示している。ITmediaによると、第1段階は「Embedded Evaluator（常駐評価者）」の導入である。METRのような第三者チームに、社給PCや入館バッジを与えて従業員並みのアクセス権を付与し、安全対策の検証やインシデント報告を行わせる計画だ。レビュアーは事前検閲なしに結果を公表でき、機密情報の黒塗り以外の削除は認められない。

さらに第2段階として民主主義国間での共通安全基準と速度制限の協調、第3段階として権威主義国を含むグローバルな協調を目指す方針を示している。アモデイ氏は、中国へのAIチップや製造装置の輸出禁止、密輸取り締まり、モデルの重み盗難の防止といったセキュリティ強化を前提としつつ、生物兵器利用の禁止などの狭い合意から、SALT（戦略兵器制限交渉）のような高度な合意まで、段階的な国際枠組みの必要性を訴えている。