科学＆テクノロジー

私はAIエージェントが私の雰囲気コーディングされたウェブサイトをハッキングしようとするのを見ました

数週間 前、私は小さなチームを見ました 人工知能 エージェントは、私の新しい雰囲気コーディングされたウェブサイトにハッキングしようとして、約10分間費やしています。Startup Runsybilによって開発されたAIエージェントは、協力して貧しいサイトを調査して弱点を特定しました。 Sybilと呼ばれるオーケストレーターエージェントは、カスタム言語モデルと既製のAPIの組み合わせをすべて搭載した、さらにいくつかの専門的なエージェントを監督しています。特定の既知の問題のための従来の脆弱性スキャナープローブは、人工的な直感を使用して弱点を把握するために、より高いレベルで動作することができます。たとえば、ゲストユーザーが特権アクセスを持っていること（通常のスキャナーが見逃している可能性のあるものがあり、これを使用して攻撃を構築することができます。RunsybilのCEO兼共同設立者であるAriel Herbert-Vossは、ますます有能になっているAIモデルが、攻撃的および防御的なサイバーセキュリティの両方に革命をもたらす可能性が高いと言います。 「私たちは間違いなく、悪い俳優と良い俳優の両方が利用できる能力の点で、間違いなくテクノロジーの爆発の頂点にいると主張します」とハーバート・ヴォスは私に語った。 「私たちの使命は、すべての人が追いつくのを助けるために、次世代の攻撃セキュリティテストを構築することです。」Sybilのターゲットを絞ったWebサイトは、最近Claude Codeを使用して新しいAIの研究論文を整理するのに役立つものでした。私が呼ぶサイト arxiv slurper ARXIVにアクセスするバックエンドサーバーで構成されています。ほとんどのAI研究が投稿されています- 他のいくつかのリソースを使用して、「斬新」、「最初」、「驚くべき」、そして私が興味を持っているいくつかの技術用語などの単語を紙の要約を調べます。それは進行中の作業ですが、いくつかのバグと構成の問題を手で修正する必要があるとしても、潜在的に有用なものを一緒にまとめることがどれほど簡単かに感銘を受けました。ただし、この種の雰囲気コードサイトの重要な問題は、どのような種類のセキュリティの脆弱性が導入されているかを知るのが難しいことです。それで、私がシビルについてハーバート・ヴォスと話をしたとき、私はそれが私の新しいサイトを弱点についてテストできるかどうか尋ねることにしました。ありがたいことに、私のサイトが非常に基本的であるためにのみ、Sybilは脆弱性を見つけられませんでした。Herbert-Vossは、ほとんどの脆弱性は、フォーム、プラグイン、暗号化の特徴など、より複雑な機能の結果である傾向があると言います。同じエージェントが調査を試みたのを見ました ダミーeコマースのウェブサイト Herbert-Vossが所有する既知の脆弱性。 Sybilは、アプリケーションのマップとそのアクセス方法、パラメーターの操作とエッジケースのテストにより、弱いスポットのためにプローブされ、その後、調査結果、仮説のテスト、および意味のあるものが壊れるまでエスカレートすることにより、弱点のために調査されました。この場合、サイトをハッキングする方法を特定しました。人間とは異なり、ハーバート・ヴォスは、Sybilがこれらのプロセスを並行して何千ものプロセスを実行し、詳細を見逃すことはなく、止まらないと言います。 「結果は、ベテランの攻撃者のように振る舞いますが、機械の精度とスケールで動作するものです」と彼は言います。「AIを搭載したペンテストは、防御システムに大きな利点を持つ可能性のある有望な方向です」と、AIとコンピューターセキュリティを専門とするカーネギーメロン大学（CMU）のコンピューター科学者であるLujo Bauer氏は述べています。バウアーは最近共著した 研究 CMUの他の人と、AI浸透試験の約束を探るAI会社人類の研究者と一緒に。研究者たちは、最も高度な商用モデルはネットワーク攻撃を実行できないが、ネットワークのスキャンやホストに感染するなどの高レベルの目標を設定するシステムを開発し、浸透テストを実行できるようになったことを発見しました。 #私はAIエージェントが私の雰囲気コーディングされたウェブサイトをハッキングしようとするのを見ました