Amazon は、深いバグハンティングに特化した AI エージェントを使用しています

生成AIとして を押します ソフトウェア開発のスピード、デジタル攻撃者の実行能力も強化されています。 経済的動機がある または 国の支援を受けた ハック。これは、テクノロジー企業のセキュリティ チームが、悪意のある者からのさらなるプレッシャーに対処しながら、これまでよりも多くのコードをレビューしなければならないことを意味します。月曜日に、 アマゾン は、Autonomous Threat Analysis (ATA) として知られる内部システムの詳細を初めて公開します。このシステムは、同社のセキュリティ チームがプラットフォームの弱点を積極的に特定し、バリアント分析を実行して他の同様の欠陥を迅速に検索し、攻撃者が穴を見つける前に穴をふさぐ修正および検出機能を開発するのに役立ちます。

ATA は 2024 年 8 月の Amazon 社内ハッカソンから生まれ、それ以来重要なツールに成長したとセキュリティ チームのメンバーは述べています。 ATA の基礎となる重要な概念は、ATA がセキュリティ テストと脅威分析を包括的に実行するために開発された単一の AI エージェントではないということです。その代わりに、Amazon は複数の専門 AI エージェントを開発し、2 つのチームで互いに競い合い、実際の攻撃手法と Amazon のシステムに対して使用できるさまざまな方法を迅速に調査し、人間によるレビューのためのセキュリティ制御を提案しました。

「当初のコンセプトは、セキュリティテストにおける重大な制限、つまり対象範囲が限られていることと、急速に進化する脅威環境の中で検出機能を最新の状態に保つという課題に対処することを目的としていました」とアマゾンの最高セキュリティ責任者スティーブ・シュミット氏は『WIRED』に語った。 「対象範囲が限られているということは、すべてのソフトウェアにアクセスできない、あるいは人員が足りないためにすべてのアプリケーションにアクセスできないことを意味します。そして、ソフトウェアのセットを分析するのは素晴らしいことですが、脅威の状況の変化に合わせて検出システム自体を最新の状態に保たなければ、全体像の半分を見逃してしまうことになります。」

ATA の使用を拡大する一環として、Amazon は、Amazon の実稼働システムを非常に現実的に反映した特別な「高忠実度」テスト環境を開発しました。これにより、ATA は分析用に実際のテレメトリを取り込み、生成することができます。

同社のセキュリティ チームは、ATA が採用するすべての技術と生成される検出機能が実際の自動テストとシステム データで検証されるように ATA を設計することにも重点を置いています。 Amazon のシステムに対して使用される可能性のある攻撃の発見に取り組んでいるレッド チームのエージェントは、ATA の特別なテスト環境で実際のコマンドを実行し、検証可能なログを生成します。ブルー チーム、つまり防御に重点を置いたエージェントは、実際のテレメトリを使用して、提案している保護が有効かどうかを確認します。また、エージェントが新しい技術を開発するたびに、その主張が正確であることを証明するためにタイムスタンプ付きのログも取得します。

この検証可能性により誤検知が減少し、「幻覚管理」として機能するとシュミット氏は述べています。このシステムは観察可能な証拠の特定の基準を要求するように構築されているため、シュミット氏は「幻覚は構造的に不可能である」と主張しています。