科学＆テクノロジー

単一の毒ドキュメントは、chatgptを介して「秘密」データを漏らす可能性があります

最新の生成 AIモデルは単なるスタンドアロンではありません テキスト生成チャットボット- ステッドでは、彼らはあなたのデータに簡単に接続して、あなたの質問にパーソナライズされた答えを与えることができます。 Openai's ChatGptをリンクできます Gmail Inboxに、GitHubコードの検査を許可するか、Microsoftカレンダーで予定を見つけます。しかし、これらのつながりは虐待される可能性があり、研究者は、それを行うために単一の「毒された」文書をとることができることを示しています。セキュリティ研究者のマイケル・バーガリーとタミール・イシャイ・シャルバットからの新しい調査結果は、今日のラスベガスで開催されたブラックハットハッカー会議で明らかにされました。 間接的な迅速な注射攻撃。攻撃のデモンストレーションで、 吹き替えagentflayer、バーガリーは、デモンストレーションドライブアカウントに保存されたAPIキーの形で開発者の秘密をどのように抽出することが可能であるかを示しています。この脆弱性は、AIモデルを外部システムに接続し、それら全体でより多くのデータを共有することで、悪意のあるハッカーの潜在的な攻撃面を増加させる方法を強調し、脆弱性を導入する方法を潜在的に増やします。「ユーザーが侵害されるために必要なことは何もありません。また、ユーザーがデータを出すために必要なことは何もありません」とセキュリティ会社ZenityのCTOであるBargury氏はWiredに語ります。 「これは完全にゼロクリックしていることを示しました。あなたのメールが必要なだけで、ドキュメントを共有します。それだけです。そうです、これは非常に悪いことです」とバーガリーは言います。Openaiは、コネクタの脆弱性に関するWiredのコメントの要求にすぐに応答しませんでした。同社は、今年初めにCHATGPT用のコネクタをベータ機能として導入しました。 ウェブサイトリスト アカウントにリンクできる少なくとも17の異なるサービス。このシステムでは、「ツールとデータをChatGPTに持ち込む」ことができるようになっています。Barguryは、今年初めにOpenaiに調査結果を報告し、会社がコネクタを介してデータを抽出するために使用した技術を防ぐために緩和を迅速に導入したと言います。攻撃の仕組みは、限られた量のデータのみを一度に抽出できることを意味します。攻撃の一部として削除することはできませんでした。「この問題はGoogleに固有のものではありませんが、迅速な噴射攻撃に対する堅牢な保護の開発が重要である理由を示しています」とGoogle Workspaceのセキュリティ製品管理のシニアディレクターであるAndy Wen氏は述べています。 最近、AIセキュリティ対策が強化されました。 #単一の毒ドキュメントはchatgptを介して秘密データを漏らす可能性があります