新しいセキュリティ プロトコルは、クラウドベースの計算中に攻撃者からデータを保護します。マサチューセッツ工科大学ニュース

深層学習モデルは、医療診断から財務予測まで、多くの分野で使用されています。ただし、これらのモデルは計算量が非常に多いため、強力なクラウドベースのサーバーを使用する必要があります。

このクラウド コンピューティングへの依存は、特に医療などの分野で重大なセキュリティ リスクをもたらします。病院ではプライバシー上の懸念から、AI ツールを使用して機密の患者データを分析することを躊躇する可能性があります。

この差し迫った問題に取り組むために、MIT の研究者は、光の量子特性を利用して、深層学習計算中にクラウド サーバーとの間で送受信されるデータの安全性を保証するセキュリティ プロトコルを開発しました。

このプロトコルは、光ファイバー通信システムで使用されるレーザー光にデータをエンコードすることにより、量子力学の基本原理を利用し、攻撃者が検出されずに情報をコピーまたは傍受することを不可能にします。

さらに、この技術は深層学習モデルの精度を損なうことなくセキュリティを保証します。研究者はテストで、堅牢なセキュリティ対策を確保しながらプロトコルが 96% の精度を維持できることを実証しました。

「GPT-4 のような深層学習モデルは前例のない機能を備えていますが、膨大な計算リソースを必要とします。私たちのプロトコルを使用すると、ユーザーはデータのプライバシーやモデル自体の独自性を損なうことなく、これらの強力なモデルを利用できるようになります」と、MIT 電子工学研究所 (RLE) のポスドクであり、論文の主著者である Kfir Sulimany 氏は述べています。 このセキュリティプロトコルに関する論文。

スリマニー氏は、MIT 博士研究員のシュリ・クリシュナ・ヴァドラマニ氏もこの論文に参加しています。 Ryan Hamerly 氏、元ポスドク、現在 NTT Research, Inc. Prahlad Iyengar 氏、電気工学およびコンピュータ サイエンス (EECS) 大学院生。上級著者の Dirk Englund 氏は、EECS の教授であり、量子フォトニクスおよび人工知能グループおよび RLE の主任研究員です。この研究は最近、量子暗号に関する年次会議で発表されました。

ディープラーニングにおけるセキュリティのための双方向の道

研究者らが焦点を当てたクラウドベースのコンピューティングシナリオには、医療画像などの機密データを保有するクライアントと、深層学習モデルを制御する中央サーバーの2者が関与する。

クライアントは、深層学習モデルを使用して、患者に関する情報を公開せずに、医療画像に基づいて患者が癌に罹患しているかどうかなどの予測を行いたいと考えています。

このシナリオでは、予測を生成するには機密データを送信する必要があります。ただし、プロセス中、患者データは安全に保たれなければなりません。

また、サーバーは、OpenAI のような企業が何年も何百万ドルも費やして構築した独自のモデルの一部を公開したくありません。

「双方とも隠したいことがあります」とバドラマニ氏は付け加えた。

デジタル計算では、悪意のある攻撃者がサーバーまたはクライアントから送信されたデータを簡単にコピーする可能性があります。

一方、量子情報は完全にコピーすることはできません。研究者らは、非複製原則として知られるこの特性をセキュリティ プロトコルで活用しています。

研究者のプロトコルでは、サーバーはレーザー光を使用してディープ ニューラル ネットワークの重みを光学フィールドにエンコードします。

ニューラル ネットワークは、データの計算を実行する相互接続されたノード (ニューロン) の層で構成される深層学習モデルです。重みは、各入力に対して一度に 1 つのレイヤーごとに数学的演算を実行するモデルのコンポーネントです。 1 つの層の出力は、最後の層が予測を生成するまで次の層に供給されます。

サーバーはネットワークの重みをクライアントに送信し、クライアントはプライベート データに基づいて結果を取得する操作を実装します。データはサーバーから保護されたままになります。

同時に、セキュリティ プロトコルにより、クライアントは 1 つの結果のみを測定でき、光の量子的性質によりクライアントが重みをコピーすることができなくなります。

クライアントが最初の結果を次の層にフィードすると、プロトコルは最初の層をキャンセルするように設計されているため、クライアントはモデルについて他に何も学習できなくなります。

「サーバーから入ってくる光をすべて測定するのではなく、クライアントはディープ ニューラル ネットワークを実行するのに必要な光だけを測定し、その結果を次の層に送り込みます。その後、クライアントはセキュリティチェックのために残留光をサーバーに送り返します」と Sulimany 氏は説明します。

クローン作成なしの定理により、クライアントは結果を測定する際にモデルに小さな誤差を適用することは避けられません。サーバーがクライアントから残留光を受信すると、サーバーはこれらのエラーを測定して、情報が漏洩したかどうかを判断できます。重要なのは、この残留光はクライアントのデータを明らかにしないことが証明されているということです。

実用的なプロトコル

現代の電気通信機器は、長距離にわたって大規模な帯域幅をサポートする必要があるため、通常、情報の転送に光ファイバーを使用しています。この装置にはすでに光学レーザーが組み込まれているため、研究者は特別なハードウェアを使用せずに、セキュリティ プロトコル用にデータを光にエンコードできます。

研究者らはアプローチをテストしたところ、ディープ ニューラル ネットワークが 96% の精度を達成しながら、サーバーとクライアントのセキュリティを保証できることを発見しました。

クライアントが操作を実行するときに漏洩するモデルに関するごくわずかな情報は、攻撃者が隠された情報を回復するために必要な情報の 10% 未満に相当します。逆に、悪意のあるサーバーは、クライアントのデータを盗むために必要な情報の約 1% しか取得できません。

「クライアントからサーバーへ、そしてサーバーからクライアントへ、両方の方法で安全であることが保証されます」と Sulimany 氏は言います。

「数年前、私たちが 分散機械学習推論のデモンストレーション MIT のメイン キャンパスと MIT リンカーン研究所の間にあるとき、長年にわたる量子暗号技術の研究に基づいて、物理層のセキュリティを提供するまったく新しいことができるのではないかと思いつきました。 そのテストベッドでも表示されました」とイングランドは言います。 「しかし、プライバシーが保証された分散機械学習のこの見通しが実現できるかどうかを確認するには、克服しなければならない多くの深い理論的課題がありました。これは、Kfir が私たちのチームに加わるまでは不可能でした。Kfir は、この研究の基礎となる統一フレームワークを開発するための実験要素と理論要素を独自に理解していたからです。」

研究者らは将来的に、複数の関係者がデータを使用して中央の深層学習モデルをトレーニングするフェデレーテッド ラーニングと呼ばれる手法に、このプロトコルをどのように適用できるかを研究したいと考えています。また、この研究のために研究された古典的な操作ではなく、量子操作にも使用でき、精度とセキュリティの両方で利点が得られる可能性があります。

「この研究では、通常は出会うことのない分野、特に深層学習と量子鍵配布の技術を賢明かつ興味深い方法で組み合わせています。後者のメソッドを使用することで、前者にセキュリティ層が追加されると同時に、現実的な実装と思われる実装も可能になります。これは、分散アーキテクチャでプライバシーを保護する上で興味深い場合があります。実験的不完全性の下でこのプロトコルがどのように動作するか、そしてその実際的な実現を楽しみにしています」と、この研究には関与していないパリのソルボンヌ大学の CNRS 研究ディレクターであるエレニ・ディアマンティ氏は述べています。

この研究は、イスラエル高等教育評議会とザッカーマン STEM リーダーシップ プログラムによって部分的に支援されました。