1720988143
2024-07-14 19:52:37
マックス・プランク光科学研究所の研究者らは、光学システムを使用してニューラルネットワークを実装するための、よりシンプルで潜在的に持続可能な方法を開発した。
マックス・プランク研究所は、ニューラルネットワーク用の新しい光学システムを開発しました。これは、現在の方法よりもシンプルでエネルギー効率の高い代替手段を提供します。
このシステムは光伝送を利用して計算を実行し、従来のニューラル ネットワークに関連する複雑さとエネルギー需要を削減します。
光ニューラルネットワーク
科学者たちは、将来的に機械学習をより持続可能にする可能性のある光学システムでニューラルネットワークを実装する新しい方法を提案している。マックス・プランク光科学研究所の研究者らは、この新しい方法を 自然物理学これまでのアプローチよりもはるかに単純な方法を示しています。
機械学習 人工知能は、ChatGPT が示すように、コンピューター ビジョンからテキスト生成まで、さまざまなアプリケーションでますます普及しています。ただし、これらの複雑なタスクには、ますます複雑なニューラル ネットワークが必要であり、数十億のパラメーターを持つものもあります。
ニューラル ネットワークのサイズが急速に拡大したことにより、エネルギー消費量とトレーニング時間が指数関数的に増加し、テクノロジーは持続不可能な道を歩むようになりました。たとえば、GPT-3 のトレーニングには 1,000 MWh を超えるエネルギーが消費されたと推定されています。これは、小さな町の 1 日の電気エネルギー消費量に相当します。
この傾向により、より高速で、エネルギー効率とコスト効率に優れた代替手段の必要性が生まれ、ニューロモルフィック コンピューティングの分野が急速に発展しています。この分野の目的は、デジタル コンピューターのニューラル ネットワークを物理的なニューラル ネットワークに置き換えることです。これらは、必要な数学的演算を物理的に、より高速かつエネルギー効率に優れた方法で実行できるように設計されています。
光を運ぶ導波管のニューロモルフィック システムの芸術的なイラスト。クレジット: @ CC Wanjura
ニューロモルフィックコンピューティングの課題
光学とフォトニクスは、エネルギー消費を最小限に抑えることができるため、ニューロモルフィック コンピューティングにとって特に有望なプラットフォームです。計算は、光速のみに制限される非常に高速で並列に実行できます。ただし、これまでのところ、2 つの大きな課題があります。まず、必要な複雑な数学的計算を実現するには、高いレーザー出力が必要です。次に、このような物理的なニューラル ネットワークを効率的にトレーニングする一般的な方法が不足しています。
マックス・プランク光科学研究所のクララ・ワンジュラとフロリアン・マルクアートが、2010年11月24日に発表した新しい論文で提案した新しい方法によって、この2つの課題を克服することができる。 自然物理学。
ニューラルネットワークトレーニングの簡素化
「通常、データ入力は光場上に刻印されます。しかし、私たちの新しい方法では、光の透過率を変えることで入力を刻印することを提案しています」と、研究所所長のフロリアン・マルクアート氏は説明する。
このようにして、入力信号を任意の方法で処理できます。これは、光場自体が、波が互いに影響を及ぼさずに干渉するという可能な限り単純な方法で動作する場合でも当てはまります。したがって、このアプローチにより、複雑な物理的相互作用を回避して、高出力の光場を必要とする必要な数学的機能を実現できます。
この物理的なニューラル ネットワークの評価とトレーニングは非常に簡単になります。「システムに光を送り、透過光を観察するのと同じくらい簡単です。これにより、ネットワークの出力を評価できます。同時に、トレーニングに関連するすべての情報を測定できます」と、この研究の第一著者であるクララ ワンジュラ氏は述べています。
著者らはシミュレーションで、彼らのアプローチがデジタルニューラルネットワークと同じ精度で画像分類タスクを実行できることを実証した。
今後、著者らは実験グループと協力して、この方法の実装を検討する予定です。著者らの提案は実験要件を大幅に緩和するため、物理的に大きく異なる多くのシステムに適用できます。これにより、幅広いプラットフォームで身体トレーニングを可能にするニューロモルフィック デバイスの新たな可能性が開かれます。
参考文献: Clara C. Wanjura と Florian Marquardt 著「線形波散乱による完全に非線形なニューロモルフィック コンピューティング」、2024 年 7 月 9 日、Nature Physics。
掲載日：10.1038/s41567-024-02534-9
#フォトンパワーが次世代の #革命を推進