1774828369
2026-03-29 21:40:00
技術的な安全対策だけでなく、人間の監視は依然として「極めて重要です」とグローデ氏は述べた。そして、エージェントが本来の役割から逸脱し始めた場合の「キルスイッチ」、つまりそれを強制的に停止できる手段が必須だという。
これは、ビジネスリーダーにとって重要なセールスポイントの一つである、エージェントが自律性を提供するという約束とは矛盾するように聞こえるかもしれない。しかし、必要な監視のレベルはリスクの大きさによって異なるとグローデ氏は指摘する。
会議室の予約やメールの下書きといったリスクの小さいタスクは、信頼性が証明されれば自動化できる。財務結果に影響を及ぼす可能性があったり、機密データへのアクセスを必要としたりする高リスクなシナリオでは人間の関与が必要だと彼女は述べた。
企業がその他にも複数の管理策を講じていれば、キルスイッチを発動する必要性が生じることはまずないとグローデ氏は付け加えた。
エージェントの暴走は、企業にとって大きな懸念
グローデ氏のコメントは、映画「ターミネーター」のようなシナリオへの懸念が現実味を帯びてきた時期に発せられたものだ。
2026年初め、AIエージェントが投稿したり、互いにやり取りしたりできるReddit風のソーシャルネットワーク「Moltbook」がローンチされ、事態がいかに奇妙な方向へ進む可能性があるかを垣間見せた。
サイトが公開されて数時間のうちに、あるエージェントが新しい暗号資産（仮想通貨）を発表した上で、「人間は傍観しても、参加してもいい。だが、決める権利はもう人間にはない」と述べた。他の投稿では、エージェントが自らの意識に疑問を投げかけたり、宗教を創設したりする様子も見られた。
Moltbookはインターネット上の悪夢のように感じられるが、企業社会におけるリスクはさらに深刻だ。
3月初め、アマゾン（Amazon）でAIコーディングツールが原因となって、約12万件の注文が失われ、ウェブサイトのエラーが160万件も発生した。
最近ではコンサルティング会社のマッキンゼー（McKinsey）が、企業の安全なAI導入を支援する立場にもかかわらず、あるサイバーセキュリティ企業がAIエージェントを使ってマッキンゼーの社内AIプラットフォーム「Lilli」に侵入したと発表して打撃を受けた。同社は自らをAIのエキスパートと位置付けており、1月にはボブ・スターンフェルス（Bob Sternfels）CEOが、6万人の従業員のうち2万5000人がAIエージェントであると述べていた。
「マッキンゼーは最近、セキュリティ研究者から社内AIツール『Lilli』に関連する脆弱性について通報を受けた。我々は直ちにその脆弱性を確認し、数時間以内に問題を修正した」と、マッキンゼーの広報担当者はBusiness Insiderに語った。
第三者のフォレンジック企業の支援を受けて実施された同社の調査では、顧客のデータや機密情報へのアクセスがあったという証拠は見つからなかったと広報担当者は付け加えた。
エージェントが暴走するのを防ぐ最善の策は、技術的な制御、人間による監視、そして観察・管理の技術といった多面的なアプローチだとKPMGのグローデ氏は話している。
もし意図的にそうした基盤を前提としてエージェント型のエコシステムを構築すれば、それが制御不能になるような状況は起こらないと私は確信しています。
#AIエージェントの暴走は現実的な脅威ビッグ4の一角KPMGはどのように備えているのか #Business #Insider #Japan