AI は 2024 年にセキュリティ環境をどう変えるか

攻撃者と防御者の間で絶えず変化する力関係を理解する方法の 1 つは、外部要因のレンズを通して見ることです。 この種の分析を行うとき、私たちは通常、主要な要因を「PESTLE」と略します。これは、政治的、経済的、社会的、技術的、法的、および環境的な力を表す頭字語です。 そして間違いなく、サイバー脅威の状況に最大の波を引き起こしていると考えられる技術的要因は、AI の急速な進化です。

サイバー犯罪者は、攻撃の効果と効率を高めるために AI をますます使用しています。 一方、防御側にとって、AI はセキュリティ チームの強力な味方であることが判明し、脅威の検出と修復を向上させています。 AI によるセキュリティ タスクの自動化の必要性は、今すぐに実現することはできません。 英国政府からの最近の報告書によると、英国は 160,000 人のサイバーセキュリティの欠員があり、補充が必要。

サイバーセキュリティにおける AI の影響は、今年大幅に増大すると予想されます。 これにより、フィッシング手法が進歩し、システムの脆弱性の発見が加速されます。 AI はまた、ネットワーク侵入の発生とその対応を促進します。 すでに AI の導入を始めている敵対者の先を行くために、セキュリティ チームは AI がもたらす脅威だけでなく、AI がネットワーク防御を向上させる可能性を約束する機会についても理解する必要があります。

2024 年に、組織は AI がサイバーセキュリティを変革する機が熟している 3 つの分野に注力する必要があります。

#1 – AI を活用したソーシャル エンジニアリング攻撃

2024 年には、AI によってソーシャル エンジニアリング攻撃の規模と効果が拡大し、説得力の高いフィッシング詐欺がわずか数秒で作成されるでしょう。 サイバー犯罪者は AI を利用して、ソーシャル メディアや侵害された電子メール アカウントからのデータを使用してパーソナライズされたフィッシング メッセージを作成します。 これらの洗練されたルアーは、訓練を受けた従業員であっても発見するのは困難です。

さらに、生成型 AI はサイバー犯罪者をより優れた詐欺師に変えるでしょう。 AI は、攻撃者がさまざまな言語で巧妙に作成された説得力のあるフィッシングメールや Web サイトを作成するのに役立ち、ロケールを越えてキャンペーンの網を広げることができます。 ソーシャル エンジニアリング攻撃の品質が向上し、ターゲットやセキュリティ チームが誘惑を発見するのがより困難になることが予想されます。 その結果、詐欺からネットワーク侵入まで、ソーシャル エンジニアリングに関連するリスクと被害が増大する可能性があります。

また、英国総選挙、スポーツ イベント (パリ オリンピック、チャンピオンズ リーグなど)、ショッピング イベント (ブラック フライデー、ボクシング デーのセールなど) などの主要イベントの周りで、AI を利用した大規模なフィッシング キャンペーンが行われる可能性があります。 AI によって生成された電子メールは正規の電子メールとほとんど区別がつかなくなっているため、ユーザーを保護するために従業員のトレーニングだけに依存するだけでは十分ではありません。 代わりに、セキュリティ チームは、従業員を保護するために検出に依存しないマイクロ仮想化などの分離テクノロジを検討する必要があります。 このテクノロジーは、隔離された仮想環境内の危険なファイルやリンクを開き、マルウェアやソフトウェアのエクスプロイト、さらにはゼロデイ脅威によるデバイスの感染を防ぎます。

#2 – ローカル大規模言語モデル (LLM)

計算能力が向上するにつれて、新世代の「AI PC」は強力な外部サーバーに依存せずにローカル LLM を実行できるようになります。 これにより、PC とユーザーは AI の恩恵を最大限に受けられるようになり、人々がデバイスを操作する方法が再定義されます。

これらのローカル LLM は、インターネットから独立して動作することでセキュリティとプライバシーの利点を提供しながら、効率と生産性の向上を約束します。 ただし、ローカル モデルとローカル モデルが処理する機密データは、適切に保護されていない場合、エンドポイントが攻撃者の大きな標的になる可能性があります。

さらに、多くの企業は、顧客サービスを向上および拡張するために、LLM に基づいて構築されたチャットボットを導入しています。 しかし、基盤となる AI テクノロジーは、機密データが漏洩する可能性など、新たな情報セキュリティとプライバシーのリスクを引き起こす可能性があります。 今年は、サイバー犯罪者がチャットボットを操作してセキュリティ対策を回避し、機密情報にアクセスしようとする場面が見られるかもしれません。

#3 – 高度なファームウェアおよびハードウェア攻撃

AI は、スキルの低いユーザーがより複雑なタスクをより効率的に実行できるようにすることで、テクノロジーの民主化を推進しています。 しかし、AI は組織の防御能力を向上させる一方で、悪意のある攻撃者が下位システム層、つまり近年攻撃が増加しているファームウェアやハードウェアに対する攻撃を実行するのを支援する可能性もあります。

これまで、このような攻撃には広範な技術的専門知識が必要でしたが、AI がこれらの障壁を下げる可能性を示し始めています。 これにより、下位レベルでシステムを悪用する試みがさらに増え、攻撃者にオペレーティング システムと業界最高のソフトウェア セキュリティ防御の下に足場が与えられる可能性があります。

時間の経過とともに、MoonBounce や CosmicStrand など、システム ファームウェアをターゲットとするマルウェアの頻度が増加すると予想されます。 これらの攻撃は、オペレーティング システムの下にある弱点を悪用することに依存しています。 これらの脅威に対抗するには、ハードウェアとファームウェアの攻撃対象領域を閉じることに重点を置くことが不可欠です。

サイバーセキュリティの新たなフロンティア

AI はサイバーセキュリティを変革し、セキュリティ チームに脅威の検出と対応を改善する大きな機会を提供します。 たとえば、AI 副操縦士は、標的を絞ったフィッシング攻撃の試みを自動的に検出することで、ユーザーの防御に役立ちます。

2024 年の AI PC の導入により、セキュリティ上の利点も得られ、ユーザーはデータをクラウドに保存するリスクなしに、デバイス上で AI を安全に使用できるようになります。 これらのデバイスは、自動ロックやプライバシー画面などの機能によりデータのプライバシーも強化します。

ただし、AI を効果的に使用するには、企業はまずセキュリティを優先する必要があります。 これは、データと環境を理解し、リスクを理解するための脅威モデリング、予防と検出テクノロジーのバランスの選択、データの安全を保つためのゼロトラスト原則の実装を意味します。 最後に、組織は、セキュリティとプライバシーのリスクを最小限に抑えながら、AI を最大限に活用するために、信頼できる AI セキュリティ プロバイダーと協力することを検討する必要があります。

アレックス・ホランド の上級マルウェア アナリストです。 HP。

AI とサイバーセキュリティの詳細

NCSCが安全なAI開発のためのガイドラインを公開 – National Cyber Security Center (NCSC) の新しいガイダンスは、企業が AI を使用して安全に革新し、リスクを最小限に抑えることを支援することを目的としています。