人工知能によって勇気づけられた脅威の風景の現実は、より多くのサイバー敵が彼らの悪意のあるコードをプッシュし、組織のエンドポイントの検出と応答システムを突破することができることを意味します。
最前線のセキュリティリーダーは、セキュリティオペレーションチームが反撃するためにAIを必要とすると言います。
AIによる検出検出
Openaiが2022年後半にChatGPTを立ち上げて以来、研究者は悪意のある電子メールの4,151％の増加を発見したと、サイバーセキュリティコンサルティング会社であるClearwaterの最高技術責任者兼コーポレートチーフ情報セキュリティ責任者であるSteve Akers氏は述べています。
会社の仮想で ヘルスケアセキュリティサミット、エイカーズは水曜日に、脅威の関係者がAIを使用して、業界のセキュリティオペレーションセンター（SOC）による検出を破壊する方法について、参加者に説明しました。
生成的AIは、wormgptなどの商用技術のように動作するサイバー犯罪者にとって、大規模な言語モデル（LLM）などの商業技術のように動作するサイバー犯罪者にとって、偵察を、マルウェアのスニペットの作成や未解除の攻撃のためのフィッシングキャンペーンの開発などのブラックハットアクティビティに使用できるガードレールに濁っています。 2023年にwormgptが出現しましたが、 後のバリエーション セキュリティプラットフォームベンダーであるCato Networksによると、XaiのGrokおよびMistral AIのMixtral LLMSを使用していると伝えられています。
同様に、Healthcare SoCは、AIがそのような脅威を検出して対応するのに十分な速さで対応する必要があります。 DeepFakesとAI Generatedコンテンツは、悪意のあるアクティビティを検出することを難しくしています。つまり、セキュリティチームは継続的に検出方法を適応させる必要があります。
「セキュリティでAIを使用している、または使用しているとき、あなたは真空でそれをしていません」とClearwaterのSOCディレクター、ジャスティン・サンは言いました。
「あなたの脅威俳優もAIを利用しています。だからそれは武器競争です」と彼は言いました。
SOCでAIを使用します
SOCのアナリストは多くの帽子をかぶっていることが多く、手動のワークフロー、インシデント対応、AI前の脅威狩猟慣行が切断されているため、時間の制約でこれまで以上に苦労する可能性があります。
さらに、レガシーセキュリティシステムは、そのフォームを変更するモダン、ファイアレス、および多型マルウェアに対して効果がないことがよくあります。
サミットには、サイバーセキュリティベンダーのセンチネローンを備えたフィールドCISOであるアルバートカバレロがサミットに参加したサンは、マルウェアの難読化技術をデコードする戦略について議論しました。
AIは、複雑なマルウェアの難読化コードを分解して、検出と応答をより速くするのに役立ちます。膨大な量のデータを処理し、人間が見逃す可能性のある微妙な行動異常を特定することにより、AIの脅威検出は適応脅威狩猟が可能です。
SunとCaballeroは、AIをSOCSに統合する主な目標は、人間のアナリストの仕事を置き換えることではなく、能力を増幅することであることを明らかにしました。ありふれたタスクの自動化に加えて、AIは複雑な脅威の発見をスピードアップできます。これは、医療機関が患者ケアの運営と提供を続けるために重要です。
「AIなしでこれを行うことはできますか？ええ、しかし私たちは負けています。そして、私たちは勝ちたいですよね？」カバレロは言った。
将来的には、特別な汎用AIモデルが協力してタスクを自動化し、調査を強化し、手動の対応アクションを削減するエージェントAIが、初期のセキュリティアラートのトリアージと調査を簡素化します。
「これを自動化する必要があります。AIが私たちにもたらす知性と、継続的な学習、強化が必要です」とサンは言いました。
しかし、カバレロが「聖杯の目的」と呼んだ完全な自律性は、徐々に実装されるべきであり、信頼されている場合にのみ実装する必要があります。
セキュリティの専門家は、反対することを指摘した ディープフェイク もっと挑戦的です。これらのエクスプロイトは、AIに生成された音声とビデオの異常を認識するために、ユーザーの啓発トレーニングを必要とします、と彼らは言いました。 SOCでは、アカウントアクセスのためのなじみのない地球論やディープフェイクの検出を支援するための異常なコミュニケーションパターンなど、異常な活動の検出に焦点を当てることを推奨しました。
セキュリティの専門家によると、結論は、SOCチームに使用する重要なプラットフォームにデータを提供する必要があるということです。 SunとCaballeroは、データはよく知られている機械学習アルゴリズムによってフィルタリングされ、セキュリティスペシャリストが生成AIプロンプトで照会できるように配置する必要があると説明しました。
「オプションではありません」とカバレロは言いました。 「これは軍拡競争であり、AIはセキュリティプログラムのあらゆる面で実装する必要があると言っています。」
次に、「より良い決定を下すために見ているデータに基づいて推論にエージェントを使用し、攻撃を予測し、先に進むことができます」と彼は付け加えました。
Andrea Foxは、Healthcare IT Newsの上級編集者です。
メール： [email protected]
Healthcare IT NewsはHIMSSメディアの出版物です。