1775127520
2026-04-02 10:40:00
今年初めに発生した ServiceNow AI プラットフォームの脆弱性は、企業のサイバー リスクに起きている広範な変化を反映しています。修正が行われる前には悪用の証拠はありませんでしたが、このインシデントは警告として機能します。 サイバーセキュリティ 専門家。
エージェント AI 機能の弱点により、ユーザーのなりすましや特権ワークフローの実行が可能になる可能性があり、現代のセキュリティ脅威が従来のデータ侵害を超えてどのように進化しているかを示しています。
記事は下に続きます
Pluralsight の主任サイバー セキュリティ著者。
サプライチェーン全体で事業を展開している企業にとって、管理されていない AI エージェントのリスクは急激に増大する可能性があります。適切な監視がなければ、自律エージェントは複数の組織に連鎖する混乱を引き起こす可能性があります。
エージェント AI の導入が増加し、 ビジネスソフトウェア、サイバーセキュリティはもはやデータを保護することだけではありません。それは、組織に代わって機能するシステムを制御することです。組織は、侵害の阻止のみを中心としたサイバーセキュリティ モデルを超えて、自動化されたシステムが意図した範囲を超えて動作する場合に運用制御を維持する方法に焦点を当てる必要があります。
変化するサイバーセキュリティ モデル
過去 20 年間のほとんどにおいて、サイバーセキュリティ モデルは明確な境界線を中心に構築されてきました。サイバーチームは通常、個々のセキュリティ侵害を管理し、防止します。 サーバ ポイント、個別の識別可能な障害を分離して封じ込めることができます。エージェント AI の台頭により、彼らの関心は変わりました。
AI がコア ビジネス プラットフォームに組み込まれるようになるにつれて、組織は幻覚や出力の不正確さだけを心配する必要がなくなります。次の大きな変化は、「AIコンテンツリスク」から「AIアクションリスク」へです。 AI エージェントがアイデンティティ、API、プラットフォーム、ワークフローを越えて対話すると、新たなリスク要因が導入され、静的なデータ侵害とは異なり、誰かが気づく前に複数のシステムに伝播する可能性があります。
重要な問題は、AI エージェントが何を行う権限を与えられているか、つまり、AI エージェントがどのようにワークフローをトリガーし、タスクを実行し、委任された権限内で操作するのかということです。これらのシステムは複数のワークフローにわたる意思決定を同時に自動化するため、エージェントが誤って設定されたり、悪用されたり、過剰な権限が付与されたりすると、その影響は急速に拡大する可能性があります。
問題はもはや「侵害されたのか?」だけではありません。しかし、「私たちのシステムは、私たちが許可したことをまだ実行しているのでしょうか?」これらは異なる問題であり、異なる制御が必要です。
運用管理の維持
研究者らはテストシナリオで、認証されていない外部攻撃者がターゲットの攻撃のみを必要とすることを実証しました。 電子メール このアドレスは、より高い権限を持つユーザーの AI エージェントが後で処理するデータ フィールドに悪意のある命令を埋め込む可能性があります。管理されないまま放置されると、組織は不正なワークフローの実行、クロスプラットフォーム アクセスの拡大、エラーや悪意のあるアクションの急速な伝播が発生することが予想されます。
実際、よく知られたセキュリティ上の欠陥は、ワークフロー全体で機能するプラットフォーム内に存在すると、より重大なものになります。これは、影響の増幅とよく言われます。
ユーザーのなりすましや資格内での任意のアクションを可能にする報告されたセキュリティ上の欠陥は、まさに AI 対応ワークフロー システムにおいてリーダーが心配すべき種類の障害モードです。そのため、自動化システムが予期せぬ動作をしたときに運用制御を維持する方法を知ることが重要です。
サイバーセキュリティ チームにとって、これは AI 機能を組織の制御環境への変更として扱うことを意味します。組織は権限、監査証跡、 監視 すべての AI 実装におけるロールバック パス。規律あるアイデンティティ ガバナンス、最小権限のアクセス設計、およびより厳格な権限管理が不可欠です。
これには、組織がリスクを管理する方法を変える必要があります。リーダーはサプライヤーの評価に焦点を当てるのではなく、統合ガバナンスを優先し、重要なビジネス行動を引き起こす可能性のある少数のプラットフォームを優先する必要があります。また、主要な統合、データ フロー、特権のマッピングなど、継ぎ目の制御も含まれます。 自動化同時に、異常な動作がないか監視し、管理者とサービス アカウントの権限を強化します。
サイバーと AI のつながりが強まるにつれて、AI 対応のワークフローが悪用された場合の経営陣の対応をリハーサルすることがますます重要になります。迅速な情報開示、明確な緩和策、テストされたベンダーの通信チャネルなど、エスカレーションに関する明確な期待を設定します。明確にするまでの時間は、AI 制御システムにおける重要なセキュリティ機能です。
サイバースキルのギャップ
当社のテクノロジー スキル レポートでは、サイバーセキュリティが最も大きなスキル ギャップの 1 つとして挙げられており、IT およびビジネス プロフェッショナルの 95% が、スキルを構築するための適切なサポートが不足していると述べています。組織が AI 対応システムを効果的に管理する機能に投資する必要があるのは明らかです。
AI エージェントを既存の製品に追加する場合は、計画段階でサイバーセキュリティを最優先課題にする必要があります。これには、AI エージェントの権限を狭い範囲に限定し、何か問題が発生した場合のリスクを計画することが含まれます。また、AI 主導の自動化を設計、監視し、迅速に封じ込めるための技術的能力への投資も必要です。
ただし、これには、最新の AI サイバー リスクに関する最新のスキルを備えた熟練した専門家が必要です。現在、大多数の組織における知識のギャップにより、 安全 AI を利用した脅威から防御する専門家は、ましてや何か問題が発生した場合に何をすべきかを知ることができます。これを正しく理解できた組織は、AI におけるセキュリティとプライバシーがどのように連携するかについて、新たに多くのことを学ぶことになるでしょう。
同様に重要なのは練習です。サンドボックス評価で準備状況を測定できるため、確実に意思決定が行われ、復旧にかかる時間が広く理解されるようになります。リハーサルには、脅威に対応し、ベンダーと迅速に調整できる態勢を整えている経営陣、法務チーム、広報チームも含める必要があります。
リーダーが優先すべきこと
組織が AI エージェントの導入を加速するにつれて、リーダーはリスクを再定義する必要があります。つまり、不正なアクション、ワークフローの操作、業務の中断を、災害時と同じ厳格なリハーサルに値する災害シナリオとして扱うことを意味します。 ランサムウェア または大規模な停電。これはサイバーセキュリティ チームだけに課される責任ではありません。これはサイバーセキュリティ チームだけに課される責任ではありません。
すべてのリーダーシップチームがすでに答えを持っているべき質問は次のとおりです。誰が私たちに代わって行動できるのか?キルスイッチとは何ですか?最初の 1 時間での封じ込めの動きは何でしょうか?サイバー、法務、通信、経営陣にまたがるこれらの答えを練習してきた組織が、何か問題が発生したときにコア システムを稼働し続けることになるでしょう。
#AIが自律的に行動できる場合のサイバー制御の維持