1723660779
2024-08-14 18:32:03
ブラックハット
、
イベント
、
セキュリティのための Microsoft Copilot
Zenity の Michael Bargury 氏が AI プロンプト インジェクションと Copilot のセキュリティ欠陥について語る
マイケル・ノビンソン （マイケル・ノビンソン） • 2024年8月14日
Zenity 共同創設者兼 CTO、マイケル・バルグリー氏
Zenity の共同創設者兼 CTO である Michael Bargury 氏によると、企業が Microsoft Copilot などの生成 AI 搭載ツールを導入するケースが増えるにつれ、セキュリティ リーダーは、データ漏洩、モデル汚染、機密情報への不正アクセスなどの新たなサイバーセキュリティの脆弱性への対処に取り組んでいるとのことです。Copilot やその他の AI アシスタントは既存のエンタープライズ検索機能に基づいて構築されていますが、機密性の高い可能性のあるデータへのアクセスの障壁を大幅に下げています。
参照: アプリケーションのセキュリティ保護、クリーンコードによる DevOps の加速
電子メール、Teams メッセージ、またはカレンダー イベントを送信することで、攻撃者はプロンプト インジェクションを使用して「ユーザーに代わって Copilot を完全に乗っ取ることができる」と Bargury 氏は言う。「つまり、私は Copilot をコントロールできるのです。ユーザーに代わってユーザーの ID を使用してファイルを検索させ、出力を操作して、ソーシャル エンジニアリングを手助けすることができます。」
マイクロソフトは、バーグリー氏が発見した 10 種類のセキュリティ メカニズムを含む Copilot のセキュリティ対策を講じているが、同氏のチームはそのすべてを回避できた。「粘り強く取り組む必要がある」と同氏は述べ、既存のセキュリティ対策では脅威アクターから企業データを保護するには十分ではないと警告した。
Black Hat USA 2024 での Information Security Media Group とのこのビデオ インタビューで、Bargury 氏は次のことも語りました。
- Copilot Studio を使用してボットを作成する際に発生するリスク。
- AI ツールによるソーシャル エンジニアリング攻撃の防止についてユーザーを教育するトレーニング プログラムの重要性。
- Copilot の機能を拡張するプラグインに関するセキュリティ上の懸念。
Bargury 氏はハッカー、ビルダー、サイバーセキュリティ教育者です。約 15 年間のリーダーシップ経験があり、Microsoft や OWASP Foundation などの組織で働いてきました。Bargury 氏は Black Hat、DEFCON、RSAC などのトップ カンファレンスで定期的に講演を行っています。
#Microsoft #CoPilot #で #ベースのデータ #セキュリティ #リスクを回避する