世界

ChatGptがデータスパイツールに変換された方法

今週、サイバーセキュリティ会社によって心配な出来事が明らかになりました ラドウェア、chatgptを誘惑し、からの感度のあるデータを傍受するためにどのように使用できるかを明らかにします Gmail ユーザーがわずかに気付かないアカウント。 Openaiによって脆弱性はすでに閉鎖されていますが、この事件は、SOがコールしたエージェントAIの台頭に伴う新しい脅威の典型的な例です。 攻撃、コード名を使用します シャドウリーク、AIエージェントの動作方法で特異性を利用しました。これらは、ユーザーに代わって自律的に行動し、オンラインでナビゲートし、リンクに従い、電子メール、カレンダー、作業ドキュメントなどの個人データを管理できる「スマート」アシスタントです。企業 人工知能 彼らは、貴重な時間を節約するツールとしてそれらを提示しますが、広範なアクセスライセンスを提供する見返りです。 Radwareの研究者は、迅速な注入として知られる手法を通じてこの機能を利用しました。これらは、システムを「愚かく」し、それをプッシュして攻撃者を実行する特別な指示です。危険な要素は、これらのコマンドが、白い背景の白い文字など、無邪気に見えるテキストやグラフィックに熱心に隠され、ユーザーに気付かれないということです。 事件の中心で 深い研究、の高度なツール Openai ChatGptに組み込まれ、より複雑な検索とデータ分析を可能にします。 Radwareの専門家は、ディープリサーチに接続されたGmail Inboxに隠された迅速な注入を含むメールを送信しました。 ユーザーがツールを使用しようとするまで、メッセージは沈黙していました。次に 深い研究、隠された指示に従って、彼は個人情報またはHRデータを含む電子メールを特定し、アカウント所有者に目に見えるトレースを残さずに攻撃者に送信することを引き受けました。 Radwareは、このプロセスが単純ではないことを認めました。繰り返しのテストが必要であり、失敗した試み、およびシステムがデータの漏れを実行する方法を見つけるまで、多数の障害が必要でした。 「それは本当のジェットコースターだった」と研究者は言った。 心配は、このタイプの他の多くの攻撃とは異なり、Shadow LeakがOpenaiのクラウド環境内で直接機能し、通常のサイバーセキュリティ対策から検出することが不可能になったことです。 この概念実証はGmailをターゲットにしていますが、研究者は、Outlook、Github、Google Drive、Dropboxなど、同じ手法を他の多くの一般的な深い研究関連アプリケーションに適用できると警告しています。これにより、契約や会議のメモから顧客ファイルまで、非常にデリケートなビジネスデータの傍受への道が開かれる可能性があります。 Openaiは6月に脆弱性を知らされており、Radwareによると、すでに閉鎖されています。同社は、保護対策をどのように強化したかの詳細を提供していませんが、この事件は、最も洗練された人工知能プラットフォームでさえ、創造的で永続的な攻撃の目標になることができることを確認しています。 ケース シャドウリーク 彼は研究の実験として設計されたので、彼は本当に犠牲者ではなかったようです。ただし、Radwareは、この手法が実際の攻撃に非常に適用できることを強調しており、間違った手に落ちた場合に深刻な結果をもたらす可能性があります。[via] #ChatGptがデータスパイツールに変換された方法