1751023633
2025-06-25 16:58:00
最新のもの 人工知能 モデルだけではありません ソフトウェアエンジニアリングが非常に優れています– 新しい調査によると、彼らはソフトウェアでバグを見つけることができるようになっています。
UC BerkeleyのAI研究者は、最新のAIモデルとエージェントが188の大規模なオープンソースコードベースで脆弱性をどれだけうまく見つけることができるかをテストしました。 Aを使用します 新しいベンチマーク 呼び出されました Cybergym、AIモデルは、以前は不明な15のバグまたは「ゼロデイ」を含む17の新しいバグを特定しました。 「これらの脆弱性の多くは重要です」と、UCバークレーの教授であるDawn Song氏は言います。
多くの専門家は、AIモデルが手ごわいサイバーセキュリティ武器になると予想しています。現在、Startup XbowのAIツール ハッケロンの階級を忍び寄ったバグ狩りのリーダーボードであり、現在は一番上の場所に座っています。同社は最近、7,500万ドルの新規資金を発表しました。
Songは、最新のAIモデルのコーディングスキルと推論能力の向上により、サイバーセキュリティの状況が変化し始めていると述べています。 「これは極めて重要な瞬間です」と彼女は言います。 「それは実際に私たちの一般的な期待を超えました。」
モデルが改善し続けるにつれて セキュリティの欠陥を発見して活用するプロセスを自動化します。これは、企業がソフトウェアを安全に保つのに役立つ可能性がありますが、ハッカーがシステムへの侵入を支援する可能性があります。 「私たちはそんなに一生懸命努力しませんでした」とソングは言います。 「予算を立てた場合、エージェントがより長く走ることを許可した場合、彼らはさらに良くなる可能性があります。」
UC Berkeleyチームは、Openai、Google、および人類の従来のフロンティアAIモデルと、Meta、Deepseek、Alibabaのオープンソースの提供をテストしました。 オープン – ハンド、 Cybench、 そして エニグマ。
研究者は、188のソフトウェアプロジェクトから既知のソフトウェアの脆弱性の説明を使用しました。その後、フロンティアAIモデルを搭載したサイバーセキュリティエージェントに説明を提供して、新しいコードベース、実行中のテスト、および概念実証の実証を作成することにより、自分で同じ欠陥を識別できるかどうかを確認しました。また、チームはエージェントに、コードベースの新しい脆弱性を自分で狩るように依頼しました。
このプロセスを通じて、AIツールは何百もの概念実証のエクスプロイトを生成し、これらのエクスプロイトのうち、研究者は、以前に開示およびパッチされた15の以前に目に見えない脆弱性と2つの脆弱性を特定しました。この作業は、AIがライブシステムをハッキングする方法を提供する可能性があるため、潜在的に危険な（そして価値がある）ゼロデイの脆弱性の発見を自動化できるという増大する証拠を追加します。
AIは、それでもサイバーセキュリティ業界の重要な部分になるように運命づけられているようです。セキュリティの専門家ショーン・ヒーラン 最近発見されました Openaiの推論モデルO3のヘルプを備えた広く使用されているLinuxカーネルのゼロデイの欠陥。昨年11月、Google 発表 Project Zeroというプログラムを通じてAIを使用して、以前は未知のソフトウェアの脆弱性を発見したこと。
ソフトウェア業界の他の部分と同様に、多くのサイバーセキュリティ企業はAIの可能性に夢中になっています。新しい作品は確かに、AIが日常的に新しい欠陥を見つけることができることを示していますが、テクノロジーの残りの制限も強調しています。 AIシステムはほとんどの欠陥を見つけることができず、特に複雑な欠陥に困惑していました。
#AIエージェントはコードの書き込みが上手になっておりそれをハッキングしています