この新しい AI ワームは、電子メール アシスタントを使用して機密データを盗みます。その仕組みは次のとおりです |

研究者のグループがプロトタイプを開発した AIワーム 呼ばれた モリスⅡ。 研究論文 (Wired が発見) によると、この第一世代 AI ワームはデータを盗み、拡散する可能性があります。 マルウェア そして スパム AI を活用したユーザー 電子メールアシスタント。 ただし、この研究は管理された環境で行われており、ワームは現実世界に展開されていないことに注意することが重要です。それでも、この開発は、次の潜在的な脆弱性を浮き彫りにしています。 生成AIモデル そして厳格なセキュリティ対策の必要性を強調しています。

AI ワームについて研究者が語ること

コーネル工科大学のベン・ナッシ氏、イスラエル工科大学のスタフ・コーエン氏、インテュイットのロン・ビットン氏で構成された研究チームは、このワームを元の Morris ワームにちなんで命名しました。 この悪名高いコンピューター ワームは 1988 年に解き放たれました。前任者とは異なり、Morris II は AI アプリ、特に次のような大規模言語モデル (LLM) を使用するアプリをターゲットにしています。 ジェミニプロ、ChatGPT 4.0、および LLaVA を使用してテキストと画像を生成します。
このワームは「」と呼ばれるテクニックを使用します。敵対的な自己複製プロンプトこれらのプロンプトは、LLM に入力されると、モデルを騙してプロンプトを複製し、悪意のあるアクションを開始させます。これには次のものが含まれます。研究者らは次のように説明しました。 「この研究は、攻撃者がそのようなプロンプトを入力に挿入し、GenAI モデルによって処理されるときに、入力を出力として複製し (レプリケーション)、悪意のあるアクティビティ (ペイロード) を実行するようモデルに促す可能性があることを示しています。 さらに、これらの入力により、エージェントは GenAI エコシステム内の接続を利用して、それらを新しいエージェントに配信 (伝播) する必要があります。 2 種類の入力データ (テキストと画像) を使用して、2 つの設定 (ブラック ボックス アクセスとホワイト ボックス アクセス) の下で、2 つのユース ケース (スパム送信と個人データの流出) で、GenAI を利用した電子メール アシスタントに対する Morris II のアプリケーションを実証します。 」
研究者らは、次の 2 つのシナリオでこのワームの機能を実証することに成功しました。

研究者らは、このような AI ワームは、サイバー犯罪者がクレジット カードの詳細や社会保障番号などの機密情報を抽出するのに役立つ可能性があると述べています。 彼らはまた、このワームがどのように機能するかを説明するビデオを YouTube にアップロードしました。

AI企業がこのワームについて語ったこと

声明では、 OpenAI 広報担当者は「彼らは、チェックもフィルタリングもされていないユーザー入力に依存することで、プロンプトインジェクションタイプの脆弱性を悪用する方法を発見したようだ」と述べた。
広報担当者は、同社はシステムの回復力を高めていると述べ、開発者は有害な入力を確実に処理しない方法を使用する必要があると付け加えた。
その間、 グーグル 研究に関するコメントを拒否した。