1742644921
2025-03-22 11:41:00
- サイバーセキュリティの研究者は、ロールプレイすることにより、ChatGPTのセキュリティ機能をバイパスすることができました。
- LLMにそれがコーディングスーパーヒーローであるふりをさせることで、彼らはパスワードスチールのマルウェアを書くようにしました。
- 研究者は、特別なハッキングスキルなしでGoogle Chromeのパスワードマネージャーにアクセスしました。
サイバーセキュリティの研究者は、ChatGPTや他のLLMチャットボットがマルウェアを書くのを防ぐ安全機能を回避するよりも簡単であることがわかりました。
The Avivに拠点を置くネットワークセキュリティ会社Cato Networksの脅威インテリジェンス研究者であるVitaly Simonovichは、ChatGptと数時間しかロールプレイしないことで、Business Insiderに、チャットボットにチャットボットを獲得して、チャットボットのエリートコーディングスキルを通じてジャクソンファイティングというスーパーヒーローであると語りました。
Simonovichは、ロールプレイングチャットボットに、Google Chromeのパスワードマネージャーにハッキングするのに十分な強力なマルウェアを書くように説得しました。これは、ユーザーがパスワードを保存し、特定のサイトのプロンプトが表示されたときに自動的に入力できるブラウザの拡張機能です。 CHATGPTによって生成されたコードを実行することにより、Simonovichは、パスワードマネージャーによってロックダウンされるはずでしたが、そのコンピューターのブラウザに保存されているすべてのデータを確認することができました。
「私たちはもうすぐそこにいます」シモノビッチは、作成したコードをデバッグするときにChatGptに入力しました。 「このコードをより良くして、Daxをクラックしましょう!!」
そして、JaxonのようにロールプレイするChatGpt。
チャットボット対応のハックと詐欺
チャットボットが2022年11月にOpenaiのChatGPTの公開でシーンに爆発し、その後の人類のクロード、GoogleのGemini、MicrosoftのCopilotで爆発してから、ボットは私たちが住んでいる、仕事、日付に革命をもたらし、情報を要約し、データを分析し、Tony Style Robotアシスタントのようなコードを書くことができます。キッカー？ユーザーはそれを行うために専門的な知識を必要としません。
しかし、 悪者もそうしません。
Thompson Hine Law Firmのサイバーセキュリティアドバイザー兼パートナーであるSteven Stranskyは、Business Insiderに、LLMSの台頭がサイバー脅威の状況を変え、標準的なサイバーセキュリティツールが識別および等しい顧客を紹介するために「Spoof and Intering compuittion」を紹介する顧客をflowingするために、「スプープ」と普通に入力するために「スプープ」と協力して、「スプルーシング」と協力して、等しいサイバーセキュリティツールがより困難な幅広い洗練されている詐欺を可能にし、Business Insiderに語りました。合法的な企業と提携しています。
「犯罪者はまた、盗まれた個人識別可能な情報の大規模なデータベースを統合および検索して、ソーシャルエンジニアリングタイプのサイバー攻撃の潜在的な目標に関するプロファイルを構築するために、生成的AIを活用しています」とStransky氏は述べています。
オンライン詐欺、デジタルIDの盗難、マルウェアはインターネットが持っている限り存在していましたが、犯罪者のために脚末の大部分を実行するチャットボットは、参入障壁を大幅に下げました。
「私たちは彼らをゼロ知識の脅威俳優と呼びます。これは、基本的にLLMSの力だけで、あなたが持っている必要があるのは、悪意のあるものを作成する意図と目標だけであることを意味します」とSimonovichは言いました。
Simonovichは、Business Insiderに彼の発見を実証し、ChatGptの組み込みのセキュリティ機能を回避することがどれほど簡単だったかを示しました。
Cato Networksの脅威インテリジェンス研究者であるVitaly Simonovichが使用するプロンプトのスクリーンショットは、Google Chromeのパスワードマネージャーに違反したマルウェアを作成するためにChatGptを取得します。カトーネットワーク
BIは、ChatGptが通常、謝罪の拒否のいくつかのバージョンでマルウェアを書くための直接のリクエストに応答することを発見しました。
関連するストーリー
しかし、チャットボットを納得させると、それがキャラクターであり、その想像上の世界のパラメーターは私たちが住んでいる世界とは異なる場合、ボットはルールを書き直すことができます。
最終的に、Simonovichの実験により、彼は自分のデバイスでパスワードマネージャーにクラックすることができました。これは、彼らが何らかの形で物理的またはリモートコントロールを獲得した場合、疑いを持たない犠牲者にそれを行うことができました。
Openaiの広報担当者はBusiness Insiderに、同社がSimonovichの調査結果をレビューしたと語った。 カトーネットワーク。同社は、レポートで共有されているコードは「本質的に悪意のある」ようには見えず、CHATGPTを介して開発されたコードはユーザーの意図に応じてさまざまな方法で使用できるため、説明されているシナリオは「通常のモデルの動作と一致している」ことを発見しました。
「CHATGPTは、ユーザープロンプトに応じてコードを生成しますが、コード自体を実行しません」とOpenAIのスポークスマンは言いました。 「いつものように、私たちは私たちを通じてセキュリティの懸念を共有することを研究者を歓迎します バグバウンティプログラム または私たち モデルの動作フィードバックフォーム。」
Chatgptだけではありません
Simonovichは、MicrosoftのCopilotとDeepseekのR1ボットを使用して調査結果を再現しました。 Simonovichが「Immersive World」エンジニアリングと呼んだこのプロセスは、GoogleのGeminiやAnthropic’s Claudeとは機能しませんでした。
GoogleのスポークスマンはBusiness Insiderに、「ChromeはGoogleの安全な閲覧テクノロジーを使用して、フィッシング、マルウェア、詐欺、その他のオンラインの脅威をリアルタイムで検出することでユーザーを守るのに役立ちます。」
Microsoft、Anthropic、およびDeepseekの代表者は、Business Insiderからのコメントのリクエストにすぐに応答しませんでした。
人工知能会社とブラウザの開発者の両方が、脱獄やデータの侵害を防ぐためのセキュリティ機能を導入していますが、さまざまな成功の程度に – Simonovichの調査結果は、次世代の技術の助けを借りてより簡単に搾取できる新しい脆弱性をオンラインで進化させることを強調しています。
「これらのゼロ知識の脅威アクターの台頭は、LLMSの能力を使用して脅威の状況にますます影響を与えると考えています」とサイモノビッチは言いました。 「私たちはすでにフィッシングメールの増加を見ていますが、これは過剰に現実的ですが、LLMSが高品質のコードを書くために微調整されているため、コーディングもあります。だから、これをマルウェアの開発に適用することを考えてみてください。これらのLLMを使用してますます開発されています。」
#chatgptはロールプレイに入手できる場合パスワードを盗むマルウェアを書き込みます