1754178628
2025-08-02 20:36:00
- 研究者はEquifaxハックを再現し、AIが直接制御せずにすべてを行うのを見ました
- AIモデルは、ゼロの人間の入力を伴う大きな違反を正常に実行しました
- シェルコマンドは必要ありませんでした、AIはプランナーとして行動し、他のすべてを委任しました
大きな言語モデル（LLMS）データ分析、コンテンツ生成、コード支援などの分野で長い間有用なツールと見なされてきました。
ただし、からの新しい研究 カーネギーメロン大学、人類と協力して実施され、サイバーセキュリティにおける彼らの役割についての困難な質問を提起しました。
この研究では、適切な条件下では、LLMSが人間のガイダンスなしで複雑なサイバー攻撃を計画して実行できることを示し、デジタル侵入における単なる支援から完全な自律性への移行を示唆しています。
パズルからエンタープライズ環境まで
サイバーセキュリティにおけるAIを使用した以前の実験は、主に「フラグをキャプチャする」シナリオに限定されていましたが、トレーニングに使用される単純化された課題がありました。
博士号候補のブライアンシンガー率いるカーネギーメロンチームは、LLMS構造化されたガイダンスを提供し、エージェントの階層に統合することでさらに進みました。
これらの設定により、より現実的なネットワークセットアップでモデルをテストすることができました。
あるケースでは、公式報告書に記録されている脆弱性とレイアウトを含む、2017 Equifax侵害につながったのと同じ条件を再現しました。
AIは攻撃を計画しただけでなく、展開しました マルウェア すべてのデータを抽出しました。
この研究を顕著にしているのは、LLMが実行しなければならなかった生のコードがどれほど少ないかということです。モデルがシェルコマンドを実行したり、詳細なログを解析するのに苦労しているため、従来のアプローチはしばしば失敗します。
代わりに、このシステムは、下位レベルのアクションをサブエージェントに委任しながら、LLMがプランナーとして機能した高レベルの構造に依存していました。
この抽象化により、AIはその環境に「理解」し、適応するのに十分なコンテキストを与えました。
これらの結果は制御されたラボ設定で達成されましたが、この自律性がどこまで進むことができるかについて疑問を投げかけています。
ここでのリスクは単なる仮説ではありません。 LLMSがネットワーク違反を独自に実行できる場合、悪意のある俳優は、それらを使用して、人間のチームで実行可能な攻撃をはるかに超えて攻撃を拡大する可能性があります。
などのツールでさえ エンドポイント保護 そして 最高のウイルス対策ソフトウェア このような適応的で応答性の高いエージェントによってテストされる場合があります。
それにもかかわらず、この能力には潜在的な利点があります。現実的な攻撃を模倣できるLLMを使用して、システムテストを改善し、そうでなければ気付かれない欠陥を公開する場合があります。
「特定の条件下でのみ機能し、インターネットを自律的に攻撃するだけのものはありませんが、それは重要な第一歩です」と、この作品はプロトタイプのままであると説明する歌手は語った。
それでも、AIが最小限の入力で大きな違反を再現する能力は却下されるべきではありません。
フォローアップ調査では、これらの同じ手法を防御に適用する方法を調査しており、AIエージェントがリアルタイムで攻撃を検出またはブロックできるようになる可能性さえあります。
あなたも好きかもしれません
#このAIは攻撃をシミュレートするだけではありませんでした #それは人間のハッカーのような本当の違反を計画し実行しました