セキュリティ分野における AI の新たな機会となる 8 つの分野

AI 戦争を自分たちに有利に傾ける新たな技術を発明するサイバー攻撃者の能力は、誰もが予想していたよりも早く起こっており、各サイバーセキュリティ ベンダーは武器を迅速に改善するために倍力しています。

しかし、それだけでは不十分な場合はどうすればよいでしょうか? すべての企業が AI を急速に導入しており、新しい生成 AI ベースのセキュリティ テクノロジーがどのように必要とされているかを考えると、 これは、Menlo Ventures が、Gen AI が多大な影響を与えている 8 つの分野を評価する方法を選択した方法の核心です。

新たな脅威に今すぐ先手を打つ

VentureBeat は最近、Menlo Ventures の Rama Sekhar 氏と Feyza Haskaraman 氏と (事実上) 対談しました。 Sekhar は Menlo Venture の新しいパートナーであり、サイバーセキュリティ、AI、クラウド インフラストラクチャに重点を置いています。 ハスカラマンは、サイバーセキュリティ、SaaS、サプライチェーン、オートメーションの責任者です。 彼らは、生成 AI が組織全体に規模を拡大するために AI のセキュリティ ギャップを埋めることが重要である理由を説明する一連のブログ投稿で協力してきました。

インタビューを通じて、セカール氏とハスカラマン氏は、AIが企業全体でその可能性を最大限に発揮するには、ソフトウェアのサプライチェーンとモデル開発から始めるように設計されたセキュリティを備えたまったく新しい技術スタックが必要であると説明した。 以下の 8 つの要素を選択する際には、リスクを軽減し、コンプライアンスを強化し、モデルと LLM 開発の規模を達成しながら、大規模言語モデル (LLM) とモデルを保護する最善の方法に焦点を当てます。

生成 AI が最も大きな影響を与える領域を予測する

セカール氏とハスカラマン氏が最も大きな影響を与えると予測する 8 つの要因は次のとおりです。

ベンダーのリスク管理とコンプライアンスの自動化。 Menlo Venture のリスク管理がどのように進化するかについての予測によると、企業がサードパーティ ベンダーや顧客と通信、協力、統合する際に、サイバーセキュリティには現在、サードパーティ アプリケーション スタック全体のセキュリティ保護が含まれています。 セカールとハスカラマンは、次のように述べています。 t現在のベンダーのセキュリティ プロセスは手間がかかり、エラーが発生しやすいため、Gen AI で自動化および改善するのに最適な候補となっています。 Menlo Ventures は、この分野の主要ベンダーの一例として、データに基づいてセキュリティに関するアンケートやその他のアンケートを自動入力し、迅速かつ正確に回答する AI アシスタントである Dialect を挙げています。

セキュリティトレーニング。 この分野に多額の投資を行っている企業で依然として侵害が発生しているため、結果が得られていないと批判されることがよくありますが、Menlo Ventures は、Gen AI によって、現実世界のシナリオとリスクをより適切にシミュレートする、よりカスタマイズされた魅力的でダイナミックな従業員トレーニング コンテンツが可能になると考えています。 たとえば、Immersive Labs は生成 AI を使用して、セキュリティ チームの攻撃やインシデントをシミュレートしています。 セキュリティ副操縦士が、Slack またはオンラインでのインタラクティブなセキュリティ意識向上トレーニングを通じて Riot 従業員を指導します。 Menlo Ventures は、この種のテクノロジーによってセキュリティ トレーニングの効果が高まると考えています。

侵入テスト (「侵入テスト」)。 Gen AI が攻撃に使用されるため、ペネトレーション テストは適応して柔軟に対応する必要があります。 AI で自動化された、より多くの攻撃を連続してシミュレートするには、さらに多くのことを実行する必要があります。 Menlo Ventures は、Gen AI によって、公共および民間データベースの犯罪特性の検索、顧客の IT 環境のスキャン、潜在的なエクスプロイトの探索、修復手順の提案、自動生成レポートでの発見の要約など、多くの侵入テスト手順を強化できると考えています。

異常の検出と防止。 Sekhar 氏と Haskaraman 氏は、Gen AI がイベント ログとテレメトリ データを自動的に監視して、侵入の試みを予測する可能性のある異常なアクティビティを検出することで、異常の検出と防止も向上すると考えています。 Gen AI は、脆弱なエンドポイント、ネットワーク、API、データ リポジトリ全体に拡張できる可能性を示しており、広範なネットワーク全体のセキュリティをさらに強化します。

合成コンテンツの検出と検証。 サイバー攻撃者は、Gen AI を使用して、ID 検証ソフトウェア、文書検証ソフトウェア、手動レビューをバイパスできる説得力のある忠実度の高いデジタル ID を作成します。 サイバー犯罪組織や国家主体は、盗んだデータを使用して、合成の詐欺的な ID を作成します。 FTC は、1 回の詐欺事件の被害額が 15,000 ドルを超えると見積もっています。 Wakefield と Dducuce は、企業の 76% が合成顧客に信用を供与しており、AI による個人情報詐欺が過去 2 年間で 17% 増加していることを発見しました。

次世代検証は、企業が合成コンテンツと戦うのに役立ちます。 Deduce は、本物の行動をベースライン化し、悪意のあるアクターを特定するために、8 億 4,000 万件の米国プロファイルのマルチコンテキストのアクティビティに裏付けられた ID グラフを作成しました。 DeepTrust は、音声クローンの検出、記事とトランスクリプトの検証、合成画像とビデオの識別を行う API にアクセス可能なモデルを開発しました。

コードレビュー。 ソフトウェア開発に対する「シフトレフト」アプローチでは、品質、ソフトウェア、セキュリティ、市場投入までの時間を改善するために、早期のテストを優先します。 効果的に「シフトレフト」するには、セキュリティが CI/CD プロセスの中核となる必要があります。 自動セキュリティ スキャンや SAST ツールが多すぎると失敗し、セキュリティ オペレーション センターのアナリストの時間が無駄になります。 SOC アナリストはまた、カスタム ルールの作成と検証には時間がかかり、維持するのが難しいとも VentureBeat に語ります。 Menlo Ventures は、スタートアップがこの分野で進歩を遂げていると述べています。 例には、セキュリティ エンジニアや開発者が脆弱性を発見し、組織固有の修正を提案するのに役立つ Semgrep のカスタマイズ可能なルールが含まれます。

依存関係の管理。 シノプシスの 2023 OSSRA レポートによると、コードベースの 96% がオープンソースであり、プロジェクトには数百のサードパーティ ベンダーが関与することがよくありました。 Sekhar 氏と Haskaraman 氏は VentureBeat に対し、これは世代 AI のおかげで大幅な改善が期待できる分野だと語った。 彼らは、内部コードよりも制御が難しい外部依存関係には、より優れたトレーサビリティとパッチ管理が必要であると指摘しました。 これらの課題の解決を支援するベンダーの一例として、オープンソース コード内の 70 を超えるサプライ チェーンのリスク シグナルを積極的に検出してブロックし、不審なパッケージの更新を検出し、サプライ チェーンを保護するために開発プロセスへのセキュリティ フィードバック ループを構築する Socket があります。

防御の自動化と SOAR 機能。 Gen AI には、アラートの忠実性と精度の向上をはじめ、セキュリティ オペレーション センターで行われている作業の多くを合理化する可能性があります。 SOC には誤報が多すぎてアナリストがフォローアップすることができず、最終的には時間の損失が生じ、その分をより複雑なプロジェクトの遂行に利用できる可能性があります。 これに加えて、偽陰性によってデータ侵害が見逃される可能性があり、生成 AI は SOC に重要な価値を提供できます。 最初の目標は、アナリストがより価値の高い作業を遂行できるように、アラート疲労を軽減することです。

新たな脅威の状況に向けて今すぐ計画を立てる

Sekhar 氏と Haskaraman 氏は、Gen AI がエンタープライズレベルの成長を遂げるためには、AI 戦略に取り組む際にすべての組織が直面するセキュリティ上の課題を最初に解決する必要があると考えています。 Gen AI が影響を与える 8 つの分野は、多くの組織が全社規模の AI 戦略に移行する準備がどれほど遅れているかを示しています。 Gen AI は、SOC アナリストがより複雑なプロジェクトを掘り下げるときに時間を浪費している単調で時間のかかる作業を排除できます。 影響を受ける 8 つの領域は始まりであり、組織が世代 AI ベースの攻撃の猛攻撃から身を守るためには、さらなる対策が必要です。