AI のエネルギー使用を大幅に削減できる簡単な方法があります

タスクにどの AI モデルを使用するかについてより賢明になれば、今年だけで 31.9 テラワット時のエネルギーを節約できる可能性があります。これは原子炉 5 基の出力に相当します。

フランスのコートダジュール大学のティアゴ・ダ・シルバ・バロス氏らは、テキスト生成から音声認識、画像分類に至るまで、人々が生成AIツールを使用する14の異なるタスクを調査した。

次に、機械学習ハブ Hugging Face がホストするものを含む公開リーダーボードを調査し、さまざまなモデルのパフォーマンスを調べました。推論中、つまり AI モデルが答えを生成するときのモデルのエネルギー効率は、CarbonTracker と呼ばれるツールによって測定され、そのモデルの総エネルギー使用量は、ユーザーのダウンロードを追跡することによって計算されました。

「モデルのサイズに基づいてエネルギー消費量を推定しました。これに基づいて推定を試みることができます」と da Silva Barros 氏は言います。

研究者らは、14 のタスクすべてにおいて、各タスクで最もパフォーマンスの高いモデルから最もエネルギー効率の高いモデルに切り替えると、エネルギー使用量が 65.8 パーセント削減され、出力の有用性が 3.9 パーセント低下するだけであることを発見しました。このトレードオフは一般大衆に受け入れられる可能性があると研究者らは示唆しています。

一部の人々はすでに最も経済的なモデルを使用しているため、実際の世界の人々が高性能モデルから最もエネルギー効率の高いモデルに交換した場合、全体のエネルギー消費量は約 27.8% 削減される可能性があります。フランス国立科学研究センターのチームメンバー、フレデリック・ジロワールは「これほど節約できることに驚きました」と語る。

しかし、それにはユーザーとAI企業の両方の変化が必要になるとダ・シルバ・バロス氏は言う。 「たとえ性能の一部を失ったとしても、小型モデルを実行する方向で考えなければなりません」と彼は言います。 「そして企業は、モデルを開発する際に、そのモデルが非常にエネルギーを消費するかどうかをユーザーが理解して評価できるように、モデルに関する情報を共有することが重要です。」

一部の AI 企業は、モデル蒸留と呼ばれるプロセスを通じて製品のエネルギー消費を削減しています。このプロセスでは、大きなモデルを使用して小さなモデルをトレーニングします。これはすでに大きな影響を及ぼしている、と英国ブリストル大学のクリス・プリスト氏は言う。たとえば、Google は最近、Gemini のエネルギー効率が過去 1 年間で 33 倍向上したと発表しました。

しかし、ユーザーに最も効率的なモデルを選択してもらうことは、「少なくとも現在の AI バブルにおいては、著者が示唆しているように、データセンターからのエネルギー増加を制限する結果にはなりそうにありません。」 とプリスト氏は言う。 「プロンプトごとのエネルギーを削減することで、より洗練された推論オプションを使用して、より多くの顧客に迅速にサービスを提供できるようになります」と彼は言います。

「より小型のモデルを使用すると、短期的には間違いなくエネルギー使用量を削減できますが、将来に向けて何らかの有意義な予測を立てる際には、考慮する必要がある要素が他にもたくさんあります」と、Hugging Face の Sasha Luccioni 氏は述べています。彼女は、「社会や経済への広範な影響だけでなく、使用量の増加などのリバウンド効果も考慮する必要がある」と警告しています。

ルッチョーニ氏は、個々の企業の透明性が欠如しているため、この分野の調査は外部の推定や分析に依存していると指摘する。 「このようなより複雑な分析を行うために必要なのは、AI 企業、データセンター運営者、さらには政府からの透明性の向上です」と彼女は言います。 「これにより、研究者や政策立案者は情報に基づいた予測や決定を下せるようになります。」