科学＆テクノロジー

AI による会話の迅速な導入とセキュリティ。自分自身を守るにはどうすればよいでしょうか？

しかし、問題はセキュリティではなく、これらすべての情報が個々の大手テクノロジー企業のサーバー上で暗号化される方法にあります。ここでは、少なくとも現時点では、重大な問題について OpenAI、Google、Perplexity、または他の誰かを責めることは困難です。もちろん、このデータが個別の契約に基づいて誰に利用可能になるかは別の問題です。ただし、セキュリティ層そのものだけを見れば、現段階で大きな批判を受ける必要はありません。もちろん、Mixpanel を使用している ChatGPT ユーザーに関するデータの最近の漏洩など、事故はありますが、これは大手テクノロジー企業自体ではなく、サードパーティのセキュリティが不十分であることが原因です。 私たちの会話の履歴に含まれる情報にアクセスしたいハッカーは、テクノロジー大手のセキュリティ対策を破ろうとはしません。いつものように、彼らのターゲットはシステム全体の最も弱い部分、つまりユーザー自身です。会話への不正アクセスを取得する方法のリストと、チャットボットのバージョン 私たちに関するデータと重要なファイルが保存されます残念ながら、成長し続けています。さらに悪いことに、ユーザーはこの種の暴露にさらされるために何もする必要さえありません。 プロンプトを 2 回繰り返すと true になります 対面 最新のものは repromptu メソッドと呼ばれます、Copilot を使用します。その操作スキームは非常にシンプルですが、それでも Microsoft はすでにこの脆弱性の修正に成功しています、さらなるバリエーションが作成されるまでに長くはかからないでしょう。再プロンプトは次のように機能します。 攻撃者は、Copilot サービスへの実際のリンクを含む電子メールを被害者に送信します。 ユーザーがリンクをクリックすると、Copilot との会話に進みます。 通常のように見えるリンクには実際にはプロンプトが含まれており、プロンプトは自動的にアクティブになります。 チャットボットに接続した攻撃者は、実際のユーザーがブラウザでセッションを閉じた場合でもチャットボットとの接続を維持します。 Copilot は、コマンドがユーザーから直接送信されたのか、他のユーザーから送信されたのかを認識できず、質問せずにコマンドを実行します。 Varonis Threat Labs の研究者が説明した攻撃シナリオでは、Copilot に対する指示は... ユーザーに関する情報を要約して外部に送信するというものでした。アシスタントは躊躇することなく注文を実行しました。 ビジネスインサイダーでも読む 以下も参照してください。 ChatGPT に広告を表示しますか? OpenAI…