1733072230
2024-11-29 16:21:00
予測人工知能はかなり前からサイバーセキュリティに使用されてきました。 2012 年頃にディープラーニングが社会に浸透し始めて以来、IT 業界は実際、このテクノロジーに基づくシステムが企業やユーザーをハッカー攻撃から守るのにどのように適しているかを認識しました。
深層学習に基づくすべてのシステムの基本的な特徴は、分析するデータの海の中で人間の目には見えないパターンを認識する並外れた能力です。これにより、監視するコンピューターの標準的な使用法が何であるかを自律的に理解し、人々がコンピューターを使用する方法、相互に、外界と、コンピューターに含まれる情報とどのようにやり取りするかを分析する能力が非常に高くなります。したがって、予測型人工知能は、保護すべきコンピュータ システムの動作が標準から逸脱しているかどうかを理解し、直ちに介入して攻撃を阻止することができます。
いわゆるプロアクティブディフェンスです。そして、ハッカー攻撃が 2023 年に世界中で 8 千億ドルに達する経済的損害を引き起こしたことを考慮すると、これは根本的に重要な障壁となります (この数字は 2 万 3 千億ドルに達する可能性があります) 2027年までに）そして、ランサムウェア（身代金が支払われるまでコンピュータシステムに存在するすべての文書を暗号化するウイルス）の被害を受けた企業のコストは、数十万ユーロ、さらには数百万ユーロに達する可能性があるということです。
しかし今、サイバーセキュリティのシナリオは再び覆される運命にあります。「今日私たちがますます目にしているのは、生成型人工知能と大規模な言語モデルの使用です。システムは、コンピューター コードを書くだけでなく、デバイスを理解することもできます。」最も効果的な方法が見つかるまでさまざまな方法を試しながら、自律的に大規模な攻撃を実行します」と、サンフランシスコに拠点を置くサイバーセキュリティ会社 Armis の共同創設者兼最高技術責任者である Nadir Izrael 氏は説明します。
例を挙げると、企業の電子メールにアクセスすると、生成型人工知能に基づくシステムが通信内容を分析し、自然言語を使用して最も脆弱なアカウントや脅迫されやすいアカウントを示し、不正確または不適切な行為を強調します。 「このようにして、生成型 AI は高度なサイバー攻撃の実行を大幅に簡素化し、以前ならその能力を持たなかったグループや国家主体が、即座にサイバー脅威に変身することさえ可能にしています」とイズラエル氏は続けます。
ソフトウェアはまさにこの目的のために開発されました FraudGPT か WormGPT が来ます: ChatGPT または Gemini の機能を模倣し、サイバー犯罪者の能力を最大限に引き出すことができるシステム。マルウェアのコンピューター コードを作成したり、フィッシングメールを送信して、たとえば、会社の従業員にログイン資格情報を提供させることができます。
この種のシナリオに直面して、イタリアのような国は、企業レベルおよび組織レベルで、その脅威に直面する準備ができているでしょうか? 「イタリアでは、特に重要なインフラに影響を与えた攻撃の増加を目の当たりにしています」とアルミスのイタリアおよび地中海地域のカントリーマネージャーであるニコラ・アルタヴィラ氏は説明します。 「企業内で戦略的意思決定を行う人は、必要な緊急性を欠いていることがよくあります。セキュリティへの投資が大幅に増加していることは事実ですが、これは我が国が歴史的に IT インフラストラクチャの保護に常にほとんど支出しなかったためでもあります。
また、病院など、細心の注意を払って防御する必要がある組織も標的にされており、長期にわたって活動を部分的にブロックしたり個人情報を盗んだりする可能性のあるランサムウェア攻撃の影響がますます高まっている。 「これは大きな問題です」とアルタヴィラ氏は続けます。「ダークウェブ上の 1 つのフォルダーに 200 ドルもの価値があることを考えると、これは避けられないことです。さらに、病院はネットワークに接続されているデバイスの数さえ認識していないことがよくあります。何重要な問題はそれだ。」
したがって、生成人工知能は、これらの攻撃をますます複雑かつ多数にすることができます。ただし、ChatGPT の背後にある同じテクノロジーは、サイバー防御のツールにもなる可能性があります。現在、多くの電子メール ツールは、通常とは異なるアドレスや組織外のアドレスにメッセージを送信しようとしている場合に警告を発します」と Nadir Izrael 氏は説明します。 「生成 AI はさらに多くのことを行うことができ、機密情報を漏らしたり、潜在的に間違った行動を取ろうとしているときを認識するのに役立ちます。デジタル インタラクションの副操縦士として機能し、意図しない間違いを犯す前に警告を発します。」
しかし、状況はさらに進化する運命にあります。「今日では多くのプロセスを自動化できますが、決定を承認しなければならない人間が常に存在します」とイズラエル氏は続けます。 「私たちはこの障壁を克服する必要があります。一度にさまざまな方法で容赦なく攻撃する人工知能に直面したときに必要な反応速度では、人間のチームがゴーサインを出す前にすべてを検討できるとは限らないからです。私たちは自動化にますます依存する必要があります。」
したがって、一方では、自律的に脆弱性を発見し、サイバー攻撃を計画して実行する人工知能システムがあります。もう 1 つは、人間が間違いを犯さないように支援し、ますます自動化された方法で IT システムの保護に対処する人工知能システムです。
このように考えると、サイバーセキュリティの将来は、人間が二次的な役割に追いやられる、人工知能間の綱引きになる運命にあるようです。本当にそうなのでしょうか？ 「ある意味でのみ、人工知能によって攻撃と防御が実行されるのは確かですが、それらは双方の人間のチームによって制御されるでしょう」とイズラエルは説明します。
しかし、人工知能の影響を強く受けている他の分野と比較すると、サイバーセキュリティには 1 つの違いがあります。攻撃者はテクノロジーのギャップが縮まる前にそれを利用しようとしますが、防御者はギャップを縮める必要があり、さもなければ圧倒される危険があります。これは戦場でドローンを使用するのと似ており、防御が発達するまでの一時的な利点となります。 AI も同様で、強力な武器ではありますが、無敵ではありません。問題は、サイバーセキュリティ業界が攻撃者の進歩のスピードに比べて防御の開発が遅れていることです。」
#生成 #がサイバーセキュリティをどのように変革するか