1732574108
2024-11-25 22:29:00
- エンジニアが浮動小数点乗算の代替手段を発表
- 新しい方法により AI のエネルギー消費を最大 95% 削減できる可能性がある
- ただし、新しい計算方法には既存の GPU に代わるハードウェアも必要になります
人工知能として(AI) テクノロジーの進化に伴い、コンピューティング能力、そしてその結果として電力の需要が急増し、そのエネルギー消費に対する懸念も高まっています。
今回、BitEnergy AI のエンジニアは、AI アプリケーションのエネルギー需要を最大 95% 削減できる新しい計算方法という潜在的なソリューションを提供します。
線形複雑度乗算は、AI 計算の実行方法を変更し、従来の浮動小数点乗算 (FPM) の使用をやめ、整数の加算を優先することで、AI アプリケーションのエネルギー需要を 95% 削減できる可能性があります。
浮動小数点乗算から線形複雑さの乗算へ
FPM は、システムが非常に大きな数値または小さな数値を高精度で処理できるため、通常 AI の計算で使用されますが、AI 処理において最もエネルギーを消費する演算の 1 つでもあります。 FPM が提供する高精度は、多くの AI アプリケーション、特にモデルに詳細な計算が必要なディープ ラーニングなどの分野に必要です。
研究者らは、エネルギー消費を削減したにもかかわらず、AI アプリケーションのパフォーマンスには影響がないと主張しています。ただし、線形複雑度乗算法には大きな期待が寄せられていますが、その採用にはいくつかの課題があります。
重大な欠点の 1 つは、新しい技術では現在使用されているものとは異なるハードウェアが必要になることです。現在、ほとんどの AI アプリケーションは、浮動小数点計算に最適化されたハードウェア (たとえば、次のような企業が製造した GPU) 上で実行されます。 エヌビディア。新しい方法では、効果的に機能するにはハードウェアを再設計する必要があります。
研究チームは、その手法に必要なハードウェアはすでに設計、構築、テストされていると述べています。ただし、この新しいハードウェアはライセンスを取得する必要があり、このハードウェアがどのようにしてより広範な市場に提供されるかはわかりません。
推定では チャットGPT 現在、これだけで毎日約 564 MWh の電力を消費しており、これは米国の 18,000 世帯に電力を供給するのに十分です。一部の批評家は、わずか数年で、AI アプリケーションは年間約 100 TWh の電力を消費し、エネルギーを大量に消費するビットコイン マイニング業界と同等になる可能性があると予測しています。
経由 テクエクスプロア
あなたも好きかもしれません
#この新しい方法によりAI #アプリケーションのエネルギー需要を #削減できる可能性がありますがまったく新しい形式のハードウェアも必要になる可能性があります