光学式コンピューターはどこまで小型化できるのでしょうか?スケーリングの法則が新たな戦略を明らかにする

コーネル大学の研究者は、光を使用して計算を実行する方法の理論的限界を研究することで、エネルギー効率の高い光コンピューティング システムを設計するための新しい洞察と戦略を発見しました。

研究では、 出版された で ネイチャーコミュニケーションズは、電気ではなく光で動作するコンピューターを設計する上での重要な課題の 1 つである、デバイスを実用に耐えるほど小さくするという課題に取り組んでいます。デジタル コンピューター上のアルゴリズムが実行するには時間とメモリが必要であるのと同様に、光ベースのシステムも、光波が伝播し、相互作用し、アナログ計算を実行するための十分な物理的空間を含む、動作するためのリソースを必要とします。

筆頭著者はフランチェスコ・モンティコーネ氏（電気・コンピュータ工学准教授）とヤンドン・リー博士。 ’23 博士研究員は、実行するタスクがより複雑になるにつれてサイズがどのように増大しなければならないかを分析することにより、自由空間光学系とフォトニック回路のスケーリング則を明らかにしました。

「光コンピューティングは、特にエネルギー効率の点で強力な可能性がありますが、画像分類などの有意義な AI 推論タスクを実行するために部屋全体と同じくらい大きな光セットアップが必要な場合、光コンピューターはあまり実用的ではありません。光子は電子よりも狭い空間に閉じ込めるのがはるかに難しいことに留意してください。」とモンティコーネ氏は述べています。

「私たちは、タスクの複雑さ、パフォーマンス、最小物理サイズの間の基本的なトレードオフを理解し、利用可能なスペースを最適に使用する光学推論システムを設計する方法を見つけたいと考えていました。」

これに対処するために、研究者らはあるインスピレーションを見つけました。 ディープラーニング技術 これは「ニューラル プルーニング」と呼ばれ、パフォーマンスにほとんど影響を与えずに冗長なパラメーターを安全に削除またはプルーニングします。

「私たちはこれらの光学デバイスの接続パターン、つまり光波がデバイス全体でどのように重なり合い、相互作用するかを特に分析しました」とリー氏は述べた。 「その後、光波の重なりを軽減するために、波動物理学に基づいた光学特有の枝刈り手法を開発しました。これにより、精度の損失を最小限に抑えながらネットワークを大幅に簡素化することができました。」

研究者らは、この技術を使用して、同じタスクを実行する光コンピューティング システムのサイズを、従来の対応するシステムの 1% ～ 10% にできることを発見しました。研究者らは、研究結果を大局的に見るために、ChatGPT などの大規模言語モデルで線形演算を実行するために、具体的には 1,000 億から 2 兆のパラメーターの規模で、光コンピューターの規模がどれくらい必要になるかを推定しました。

彼らは、自由空間光学セットアップでは、原理的には、厚さ約 1 センチメートルのデバイスでこの規模の計算を実行できることを発見しました。この理論的限界に近づくために、超薄型デバイスなどの新たな光学デバイスが登場します。 メタサーフェス 研究者らが論文で指摘したように、スペースプレートは有望な候補となる可能性がある。 以前の論文。

研究者らによると、この研究では、光学デバイスが大きくなるにつれて推論精度の利益が減少する傾向があることも明らかになった。これは、一部のアプリケーションでは、デバイスのサイズとタスクのパフォーマンスのバランスを取る方が良いことを意味しているという。

完全な光学式コンピューターは依然として長期的な目標としては難しいが、リー氏とモンティコーン氏は、光が高速でエネルギー集約型の線形演算を処理し、エレクトロニクスが非線形機能、分岐ロジック、意思決定、汎用プログラマビリティを提供するハイブリッド システムでのより直接的な応用を考えている。

「サイズ以外にも制限があり、光学式コンピューターが本当に GPU などに取って代わるのか、それとも大幅に高速化するのかについては個人的には懐疑的です」とモンティコーン氏は語った。 「しかし、リソースが限られたエッジシナリオにおけるイメージングやコンピューティングなどの多くのアプリケーションでは、光学系が非常にうまく機能する可能性があり、一部の人々が懸念していたスペースが必ずしもボトルネックではないことを私たちは示しています。」