AI対AI – サイバー犯罪者や組織は勝っていますか？

Openaiの大規模な言語モデル（LLMS）でのブレークスルー以来、組織に対する脅威は急増しています。それは、私たちが大幅に技術的な進歩を遂げるたびに、悪い俳優も利益をもたらします。サイバー犯罪者はLLMと生成AIを使用して、大規模にハイパーローカル攻撃プレイブックを実行し、従来の「伝統」を攻撃するよう警告する従来の「伝統」を難読化します。

私たちは、AIを最大限に活用するために、脅威アクターとの比phor的な武器競争に参加しています。それで、誰が勝っていますか？

AIが規模でサイバー犯罪活動を高める方法

歴史的に、フィッシングメールは、彼らの悪意のある意図の明らかな手がかりを保持していました。スペリングの間違い、文法的なエラー、言語のギャップは赤い旗を提起し、ほとんどの読者に警告しました。しかし、現在、AIは、よく書かれた、より説得力のあるメッセージの作成を支援しています。攻撃は、地元の専門用語、内部企業の専門用語、およびプロフェッショナリズムを密接に模倣できるようになりました。これはおばあちゃんのスパム受信トレイではありません。古いテルはもはや信頼できません。

音声録画やビデオ録画を使用する詐欺にも同じことが言えます。 AIは、既存のサイバーセキュリティ防御をだまして金融詐欺のようなことを実行できる「ディープフェイク」 – ビデオ、オーディオ、または画像を介してなりすましやすくなります。たとえば、Aで訓練された脅威アクター CEOの公開声が使用されています ほぼ15万ドル相当のワイヤー詐欺を開始する。

また、AIは攻撃の自動化、脆弱性の特定、より洗練されたマルウェアの作成、膨大な量の機密データの分析、およびリバースエンジニアのセキュリティツールの分析に役立ちます。 AIの助けを借りて、サイバー犯罪者になるための参入の障壁は、技術的ではなくなりました。ハッケロンのものは、少し驚きです 2024ハッカー駆動のセキュリティレポート 回答者の48％が、AIが会社に最大のセキュリティリスクをもたらすと考えていることを発見しました。

チームがAIを使用して脅威と戦う方法

良いニュースは、セキュリティチームがこれらの脅威を見るためにAIを活用し、より速く、より賢く、より良い脅威と脆弱性を大規模に見つけることができるということです。 AIを使用して脅威を特定するのに役立つグループの1つは、セキュリティ研究者であり、その役割はソフトウェアとシステム内の脆弱性を積極的に検索し、サイバー犯罪者がそれらを見つける前に企業に対する脅威を責任を持って開示することです。の場合のように、AIを副操縦士ツールとして使用する ハックボット、研究者がこのプロセスを加速するのを助けることができます – より多くのセキュリティテストを実施し、攻撃面のより深い領域に到達できるようにします。

確かに、ハッケロン 報告 セキュリティ研究者の38％がAIを使用しており、20％がそれを必須と見なし、33％がそれを使用して情報を要約してレポートを書くことを示唆しています。たとえば、AIは、より速く、より包括的なプロセスの背後にあります。たとえば、ブルートフォースシステムを試みたときに単語リストを迅速に拡張します。

セキュリティチームの場合、AIは高度な行動分析が潜在的な攻撃にフラグを立て、インシデント対応を速くすることもできます。脅威の検出をリアルタイムで自動化します。スポットフィッシングの試み;脆弱性を識別します。また、大量の脅威インテリジェンスデータを処理して、新たな脅威と攻撃パターンを特定できます。

AIは、ソースコードの読み取りをスピードアップするなど、日常的なタスクを自動化することもできます。 AIは、共同セキュリティにも重要な役割を果たしています。脆弱性は通常、修復のための詳細な技術的ガイダンスと明確な指示を要求します。 AIは、複雑な業界の専門家を明確で実用的なステップに翻訳し、チームがより効果的に連携するようにすることができます。これらの高速なタスクとプロセスはすべて、セキュリティチームが戦略的に重要なタスクに焦点を当てて費やすことができるより多くの自由時間になります。

誰が勝ってますか？

このような緊密なレースでは、誰が前にいるのかを知るのは難しいかもしれません。サイバー犯罪者またはセキュリティの専門家です。当面は、セキュリティチームが優位に立つと言うのは公平です。しかし、悪い俳優はそれほど遅れていません。 AIがセキュリティチームをサポートできる新しい方法を探索することで、組織はゲームの先を行くことを保証できます。

セキュリティ研究者は、サイバー犯罪者がどのように考えているかをすでに理解しており、AIのサポートにより、組織が悪者よりも2歩先を行くことを保証するのに役立ちます。

Michiel Prinsは共同設立者です ハッケロン。

続きを読む

より多くのAIはより多くのサイバー攻撃を意味しますか？ – 組織内でのAIの使用の増加は、サイバー攻撃の増加を綴る可能性がある、とNick Martindaleは説明します。これがあなたができることです

ハイブリッドAIとは何ですか？ – ハイブリッドAIとは何ですか、どの要素を組み合わせることができ、どのように組織に利益をもたらすことができますか？調べるために読んでください

私は、英国政府、FCA、PWCのAI戦略を操縦しています。これが彼らが正しいことをしていることです – 最も有望なAIプロジェクトが共通している4つのアプローチは、他の企業が技術を安全かつ効果的に活用するのを支援するために