Recall のセキュリティとプライバシーのアーキテクチャに関する最新情報

概要

AI が Windows にとってより不可欠になるにつれて、Microsoft は Copilot+ PC 上の 40 以上の TOPS ニューラル プロセッシング ユニットの能力を利用してエッジで AI をさらに活用しています。これにより、AI 負荷の高いタスクでの遅延の短縮、バッテリー寿命の向上、インターネット接続なしでの AI エクスペリエンスの使用、および情報をローカルに保持することによるプライバシーの向上が可能になります。

モデルと AI 関連のデータ処理を PC に移動すると、製品設計で考慮する必要がある固有のセキュリティ上の課題も生じます。このブログでは、Copilot+ PC に導入されるまったく新しい独占エクスペリエンスである Recall (プレビュー) に実装されたセキュリティとプライバシーのモデル、セキュリティ アーキテクチャ、および技術的制御について概説します。 Recall は、PC 上で見たものを即座かつ安全に見つけられるように設計されています。

セキュリティとプライバシーの設計原則

1. Recall はセキュリティとプライバシーを念頭に置いて設計されており、アップデートに合わせた 4 つの原則に基づいて構築されています。 6月に発表された:
   ユーザーは常にコントロールできます。
   • リコールはオプトインエクスペリエンスです。 Copilot+ PC のセットアップ エクスペリエンス中に、ユーザーには、Recall を使用してスナップショットを保存するかどうかの明確なオプションが与えられます。ユーザーが積極的にオンを選択しない場合、オフになり、スナップショットは取得または保存されません。ユーザーは、Windows のオプション機能設定を使用して、リコールを完全に削除することもできます。
2. Recall の機密データは常に暗号化され、キーは保護されます。
3. スナップショットと関連データを操作するリコール サービスは分離されています。
   • Recall 内では、スクリーンショットと関連データを操作したり、復号化操作を実行したりするサービスは、安全な VBS エンクレーブ内に存在します。 VBS Enclave から残る情報は、Recall を積極的に使用するときにユーザーが要求した情報だけです。
4. ユーザーは存在し、Recall の使用について意図的です。
   • Recall は、Windows Hello 拡張サインイン セキュリティを利用して、Recall 関連の操作を承認します。これには、リコール設定の変更や、リコール ユーザー インターフェイス (UI) へのアクセスの実行時認証などのアクションが含まれます。 Recall は、レート制限とアンチハンマー対策を通じてマルウェアからも保護します。現在、Recall は、Recall が構成された後のみフォールバック方法として PIN をサポートしています。これは、安全なセンサーが損傷した場合のデータ損失を回避するためです。

リコールセキュリティモデル

リコールスナップショットと関連データは安全な方法で保護されています VBS エンクレーブ。 VBS エンクレーブは、Azure と同じハイパーバイザーを使用して、コンピューターのメモリを、情報を処理できる特別な保護領域にセグメント化します。ゼロ トラストの原則を使用すると、これらのエンクレーブ内のコードは暗号化構成証明プロトコルを使用して、スナップショット処理などの機密操作を実行する前に環境が安全であることを保護できます。この領域は、Windows Hello を通じてユーザーが許可を与えた場合にのみアクセスできる、ロックされたボックスのように機能します。 VBS エンクレーブ 隔離境界線を提供する カーネル ユーザーと管理ユーザーの両方から。

リコール スナップショットは、Windows Hello 資格情報を使用して認証した後にのみ使用できます。具体的には、Windows Hello 拡張サインイン セキュリティの生体認証資格情報によりプライバシーが保護され、セマンティック インデックスのクエリや関連スナップショットの表示をアクティブに認証します。

リコールコンテンツを検索するには、生体認証資格情報を登録する必要があります。 Windows Hello 強化されたサインイン セキュリティで VBS エンクレーブを使用すると、呼び出し機能を使用して検索しているときにデータを簡単に復号化できます。認証がタイムアウトになり、ユーザーは今後のセッションへのアクセスを認証する必要があります。これにより、ユーザー認証に「乗り込んで」データを盗もうとする潜在的なマルウェアによる試みが制限されます。

プライバシー制御のリコール

リコールは常にオプトインです。リコールの使用を選択しない限り、スナップショットは作成または保存されません。スナップショットと関連データはデバイス上にローカルに保存されます。 Recall は、スナップショットや関連データを Microsoft またはサードパーティと共有しません。また、同じデバイス上の異なる Windows ユーザー間で共有することもありません。 Windows はスナップショットを保存する前に許可を求めます。いつでも管理でき、いつでもスナップショットを削除したり、一時停止したり、オフにしたりできます。ユーザーが今後データを共有するオプションを選択するには、十分な情報に基づいたユーザーによる明示的なアクションが必要になります。

Windows には、プライバシーを管理したり、後で Recall で見つけられるように保存される内容をカスタマイズしたりするのに役立つ豊富なツール セットが用意されています。

• インプライベートブラウジング サポートされているブラウザ 決して救われない。
• ユーザーは、サポートされているブラウザで表示される特定のアプリまたは Web サイトをフィルタリングして除外できます。
• ユーザーは、リコールコンテンツを保持する期間とスナップショットに割り当てるディスク容量を制御できます。
• 機密コンテンツのフィルタリングはデフォルトでオンになっており、パスワード、国民 ID 番号、クレジット カード番号が Recall に保存されるのを減らすのに役立ちます。 Recall は次のライブラリを活用します。 Microsoft の Purview 情報保護製品を強化、世界中の企業に導入されています。
• 保存するつもりはなかったものを見つけましたか?時間範囲、アプリやウェブサイトのすべてのコンテンツ、またはリコール検索で見つかったあらゆるものを削除できます。
• システム トレイのアイコンは、スナップショットがいつ保存されているかを知るのに役立ち、スナップショットの保存を簡単に一時停止できます。

Recall コントロールを使用すると、ユーザーは必要なだけ保存し、制御を維持できます。注: Windows の他の機能と同様に、一部の診断データはユーザーのプライバシー設定に基づいて提供される場合があります。

アーキテクチャを思い出してください

Recall アーキテクチャのコア コンポーネントは次のとおりです。

安全な設定

VBS Enclave 内で使用される保護されたデータ ストア。Recall 用のセキュリティ構成データが保存されます。セキュリティに敏感な設定に変更を加えるには、ユーザーは悪意のある改ざんを防ぐためにエンクレーブ内で実行されるアクションを承認する必要があります。さらに、設定はデフォルトで安全です。つまり、改ざんが検出された場合は、安全なデフォルトに戻ります。

セマンティックインデックス

セマンティック インデックスは、後の検索のために画像とテキストをベクトルに変換します。これらのベクトルはスナップショットから抽出されたプライベート情報を参照する可能性があるため、これらのベクトルは VBS Enclave 内で保護されたキーによって暗号化されます。すべてのクエリ操作は VBS エンクレーブ内で実行されます。

スナップショットストア

保存されたスナップショットと、Recall User Activity API と統合するアプリによって提供される起動 URI を含む関連メタデータ、およびスナップショットの時刻、タイトル バー文字列、アプリの滞留時間などのデータが含まれます。各スナップショットは個別のキーで暗号化されます。これらのキーは VBS Enclave 内で保護されます。

ユーザーエクスペリエンスを思い出す

ユーザーが PC 上で行ったことを見つけるために利用する UI エクスペリエンス (タイムライン、検索、特定のスナップショットの表示など)。

スナップショットサービス

新しいスナップショットを保存したり、VBS Enclave から返されたデータをクエリおよび処理したりするためのランタイムを提供するバックグラウンド プロセス。

Recall のストレージ サービスは VBS Enclave 内に常駐し、マシン上で動作するマルウェアや攻撃者からデータ、キー、改ざんを保護します。 Recall UI などの Recall コンポーネントは VBS エンクレーブの外部で動作するため、このアーキテクチャでは信頼されません。

スナップショット サービスは設計上、ユーザーが要求した情報を公開する必要があるため、設計の重要な原則は、リコール システムの通常の使用以外でデータが漏洩する可能性を減らすことです。

VBS エンクレーブの外部のプロセスは、スナップショットや暗号化キーへのアクセスを直接受け取ることはなく、承認後にエンクレーブから返されたデータのみを受け取ります。認証期間には、悪意のあるクエリの影響を制限するタイムアウトとアンチハンマー保護が備わっています。スナップショット サービスは、 保護されたプロセス VBS エンクレーブ外のクエリから返されたデータを含むメモリへの悪意のあるアクセスをさらに制限します。保護されたプロセスは、マルウェア対策および Windows LSA ホストを攻撃から保護するために使用されるテクノロジーと同じです。

最後に、Recall VBS Enclave は、同時実行保護と単調カウンターを利用して、悪意のあるユーザーがリクエストを出しすぎてシステムに過負荷がかかるのを防ぎます。

Recall のセキュリティの鍵となる追加のアーキテクチャ プロパティ:

バインドされ検証された VBS エンクレーブ

• Recall で使用される暗号化キーは、エンド ユーザーの ID に暗号的にバインドされ、ハードウェア プラットフォームの TPM から派生したキーによって封印され、完全に仮想信頼レベル 1 (VTL1) の信頼された境界内で実行されます。
• 仮想化ベースのセキュリティ (VBS) – ハイパーバイザーは安全なエンクレーブ環境を提供し、整合性が検証されたコードを機密で分離された TEE にロードします。

Recall は Copilot+ PC でのみ動作します

Recall は、次の要件を満たす Copilot+ PC 上でのみ動作します。 セキュアコア標準 デフォルトで次の機能が含まれており、Recall によって検証されています。

セキュリティレビューのリコール

セキュリティ、プライバシー、責任ある AI を念頭に置いて Recall を設計および構築することに加えて、私たちはこの機能の一連の徹底的なセキュリティ評価も実施しました。これには、思慮深く安全なアプローチを確保するための次の取り組みが含まれます。

• Microsoft Offensive Research & Security Engineering チーム (MORSE) は、リコールに関して数か月にわたる設計レビューと侵入テストを実施しました。
• サードパーティのセキュリティ ベンダーが独立したセキュリティ設計レビューと侵入テストを実施するよう委託されました。
• 責任ある AI 影響評価 (RAI) が完了しました。これは、RAI の 6 つの原則 (公平性、信頼性と安全性、プライバシーとセキュリティ、包括性、透明性、説明責任) にわたるリスク、危害、緩和分析を対象としています。社内の認識を高めるために、まとまった RAI の学習とサポートのドキュメントが作成され、顧客との信頼と透明性を促進するために社外向けの RAI コンテンツが公開されました。

結論

Recall の安全な設計と実装により、既知の脅威に対する堅牢な一連の制御が提供されます。 Microsoft は、最も高度な攻撃に対してもセキュリティとプライバシーを維持しながら、AI のパワーを誰もが利用できるようにすることに取り組んでいます。

私たちは、セキュリティはチームの努力であると心から信じています。 OEM、アプリ開発者、その他のエコシステムと提携することで、人々がより適切に自分自身を保護できるよう支援するとともに、設計上より安全であり、デフォルトでも安全な Windows エクスペリエンスを提供しています。 Windows 11 セキュリティブック ユーザーが Windows で安全な状態を維持できるようにするための詳細を学習するために利用できます。

Microsoft セキュリティ ソリューションの詳細については、次のサイトをご覧ください。 Webサイト。をブックマークします マイクロソフト セキュリティ ブログ セキュリティ問題に関する専門家の情報を常に入手するため。また、LinkedIn でフォローしてください (マイクロソフトのセキュリティ) と X (@MSFTセキュリティ) サイバーセキュリティに関する最新ニュースと更新情報をご覧ください。

編集者注 – 2024 年 9 月 27 日: Microsoft の Purview 保護製品に関する情報が更新されました。