AI発電機はどれくらいの電力を消費しますか?

機械学習が消費するのは周知の事実です。 多く エネルギーの。 電子メールの要約、違法なチャットボット、ニューメタルを歌うホーマー・シンプソンのビデオを強化するこれらの AI モデルはすべて、1 時間あたりメガワット単位で測定される高額なサーバー料金を課しています。 しかし、そのコストがいくらになるかを正確に言える人は、おそらくその技術を支えている企業でさえもいないようです。

推定値は存在するが、専門家らは、これらの数値は部分的かつ偶発的なものであり、AI の総エネルギー使用量のほんの一部を示しているにすぎないと述べている。 これは、機械学習モデルが非常に可変的であり、消費電力を大幅に変更する方法で構成できるためです。 さらに、法案を作成するのに最適な組織、つまり Meta、Microsoft、OpenAI などの企業が、単に関連情報を共有していないだけです。 (Microsoft のクラウド運用およびイノベーション担当 CTO である Judy Priest 氏は電子メールで、同社は現在「大規模システムをより効率的にする方法に取り組みながら、AI のエネルギー使用量と二酸化炭素への影響を定量化する方法論の開発に投資している」と述べました。 OpenAIとMetaはコメントの要請に応じなかった。）

私たちが特定できる重要な要素の 1 つは、モデルを初めてトレーニングする場合と、モデルをユーザーにデプロイする場合の違いです。 特にトレーニングは非常にエネルギーを消費し、従来のデータセンターでの活動よりもはるかに多くの電力を消費します。 たとえば、GPT-3 のような大規模な言語モデルのトレーニングには、1,300 メガワット時 (MWh) 弱の電力が使用されると推定されています。 これは、米国の家庭 130 軒が年間消費する電力とほぼ同じ量です。 これを具体的に説明すると、Netflix を 1 時間ストリーミングするには約 0.8 kWh (0.0008 MWh) の電力が必要です。 つまり、GPT-3 のトレーニングに必要な電力と同じ量を消費するには、1,625,000 時間視聴する必要があるということです。

しかし、このような数字が現在の最先端システムにどのように当てはまるかを言うのは困難です。 AI モデルのサイズは長年にわたって着実に増加傾向にあり、モデルが大きくなるとより多くのエネルギーが必要となるため、エネルギー消費量はさらに大きくなる可能性があります。 一方で、企業はこれらのシステムのエネルギー効率を高めるために、実証済みの方法をいくつか使用している可能性があります。これにより、エネルギーコストの上昇傾向が抑制されることになります。

フランス系アメリカ人のAI企業ハギング・フェイスの研究者サーシャ・ルッチョーニ氏は、AIが収益性を高めるにつれて企業の秘密主義が高まっていることが、最新の予測を立てる上での課題だと語る。 ほんの数年前に遡ると、OpenAI のような企業は、トレーニング体制の詳細 (どのようなハードウェアとどのくらいの期間) を公開していました。 しかし、ChatGPT や GPT-4 などの最新モデルには同じ情報が存在しないとルッチョーニ氏は言います。

「ChatGPT では、それがどのくらいの大きさなのか、基礎となるモデルにパラメータがいくつあるのか、どこで実行されているのかもわかりません。トレンチ コートを着た 3 匹のアライグマかもしれません。ボンネットの下に何があるか知っています。」

AIのエネルギー利用を調査した論文をいくつか執筆しているルッチョーニ氏は、この秘密主義は企業間の競争による部分もあるが、批判をそらすための試みでもあると示唆する。 AI のエネルギー使用統計、特にその最も軽薄なユースケースを見ると、必然的に暗号通貨の無駄との比較を招きます。 「これらすべてが無料ではないという認識が高まっています」と彼女は言います。

モデルのトレーニングは全体像の一部にすぎません。 システムが作成されると、消費者に展開され、消費者はそれを使用して出力を生成します。これは「推論」と呼ばれるプロセスです。 昨年12月、ハギングフェイス大学とカーネギーメロン大学のルッチョーニ氏らは、さまざまなAIモデルの推論エネルギー使用量の最初の推定値を含む論文を発表した（現在査読待ち）。

ルッチョーニ氏と同僚は、質問への回答から物体の識別や画像の生成まで、さまざまなユースケースにわたる 88 の異なるモデルでテストを実行しました。 それぞれのケースで、タスクを 1,000 回実行し、エネルギー コストを推定しました。 彼らがテストしたほとんどのタスクは、書かれたサンプルの分類に 0.002 kWh、テキストの生成に 0.047 kWh など、少量のエネルギーを使用します。 Netflix ストリーミングの 1 時間を比較として使用すると、これらはそれぞれ 9 秒または 3.5 分の視聴で消費されるエネルギーに相当します。 (覚えておいてください: これは各タスクを 1,000 回実行するためのコストです。) 画像生成モデルの数値は特に大きく、推論 1,000 回あたり平均 2.907 kWh を使用しました。 論文によると、平均的なスマートフォンは充電に 0.012 kWh を使用します。つまり、AI を使用して 1 つの画像を生成すると、 スマートフォンの充電とほぼ同じくらいのエネルギーを消費します。

ただし、これらの数字は必ずしもすべてのユースケースに一般化されるわけではないため、「できる」ことに重点が置かれています。 ルッチョーニ氏と同僚は、64 x 64 ピクセルの小さな画像を生成する小型モデルから 4K 画像を生成する大型モデルまで、10 種類の異なるシステムをテストしました。その結果、値が大幅に広がる結果となりました。 研究者らはまた、さまざまな AI モデルをより適切に比較するために、使用するハードウェアを標準化しました。 これは、ソフトウェアとハードウェアがエネルギー効率のために最適化されることが多い現実世界の展開を必ずしも反映しているわけではありません。

「これがすべてのユーザーのユースケースを代表しているわけではありませんが、少なくともある程度の数字は得られました」とルッチョーニ氏は言います。 「『ここから始めよう』という旗を地面に立てたかった」。

この研究は、絶対的な数字ではないものの、有用な相対的なデータを提供します。 たとえば、AI モデルが出力を生成するには、入力を分類する場合よりも多くの電力が必要であることがわかります。 また、画像を含むものはテキストよりも多くのエネルギーを消費することも示しています。 ルッチョーニ氏は、このデータの偶発的な性質にイライラすることがあるかもしれないが、これ自体が物語を物語っていると述べています。 「生成型 AI 革命には、私たちにはまったく未知の地球規模のコストが伴いますが、私にとってその広がりは特に示唆的です」と彼女は言います。 「結局のところ、私たちはそれを知りません。」

そのため、バレンシアガの教皇を 1 体生み出すためのエネルギーコストを突き止めるのは、変動要素が泥沼であるため困難です。 しかし、地球のコストをより深く理解したい場合は、別のアプローチを取る必要があります。 モデル推論に焦点を当てるのではなく、ズームアウトしたらどうなるでしょうか?

これは、アムステルダム自由大学の博士課程候補者、アレックス・デ・フリース氏のアプローチであり、ブログのためにビットコインのエネルギー消費量を計算することに熱心に取り組んでいます。 デジエコノミスト、AI ハードウェアのゴールドスタンダードである Nvidia GPU を使用して、この分野の世界的なエネルギー使用量を推定した人もいます。 ド・フリース氏は、2006年に出版された解説の中でこう説明している。 ジュール 昨年、Nvidia は AI 市場の売上高の約 95% を占めました。 同社はまた、ハードウェアのエネルギー仕様と売上予測も発表しています。

このデータを組み合わせることで、de Vries 氏は、2027 年までに AI 部門が年間 85 ～ 134 テラワット時を消費する可能性があると計算しています。 これはデ・フリース氏の母国であるオランダの年間エネルギー需要とほぼ同じだ。

「あなたが話しているのは、AI の電力消費が 2027 年までに世界の電力消費の 0.5 パーセントになる可能性があるということです」とデ・フリース氏は語る ザ・ヴァージ。 「これはかなり重要な数字だと思います。」

国際エネルギー機関による最近の報告書でも同様の推計が示されており、AI と暗号通貨の需要により、データセンターによる電力使用量が近い将来大幅に増加することが示唆されています。 同庁によると、現在のデータセンターのエネルギー使用量は2022年には約460テラワット時で、2026年には620～1,050TWhに増加する可能性があり、これはそれぞれスウェーデンやドイツのエネルギー需要に匹敵するという。

しかし、ド・フリース氏は、これらの数字を文脈に沿って理解することが重要であると述べています。 同氏は、2010 年から 2018 年の間、データセンターのエネルギー使用量はかなり安定しており、世界の消費量の約 1 ～ 2% を占めていると指摘しています。 (ここで「データセンター」と言うときは、企業の内部サーバーからスマートフォンでオフラインで使用できないすべてのアプリに至るまで、「インターネット」を構成するすべてのものを指します。) この期間で需要は確かに増加しました。 de Vries 氏は、「しかし、ハードウェアの効率が向上したため、増加分は相殺されました」と述べています。

同氏の懸念は、企業があらゆるタスクに単純に大規模なモデルとより多くのデータを投入する傾向にあるため、AI では状況が異なるのではないかということだ。 「これは効率にとって非常に致命的な力関係です」とデ・フリース氏は言います。 「それは人々に計算リソースを追加し続ける自然なインセンティブを生み出し、モデルやハードウェアがより効率的になるやいなや、人々はそれらのモデルを以前よりもさらに大きくするようになるからです。」

効率の向上によって需要と使用量の増加が相殺されるかどうかという質問に答えることは不可能です。 ルッチョーニ氏と同様に、デ・フリース氏も入手可能なデータの欠如を嘆いているが、世界はこの状況を無視することはできないと述べている。 「これがどのような方向に進んでいるのかを見極めるのは、ちょっとしたハックでしたし、もちろん完璧な数字ではありません」と彼は言います。 「しかし、これは少し警告するには十分な根拠です。」

AI に関与する一部の企業は、テクノロジー自体がこれらの問題の解決に役立つ可能性があると主張しています。 プリースト氏はマイクロソフトを代表して、AIは「持続可能性ソリューションを推進するための強力なツールになる」と述べ、マイクロソフトが「2030年までにカーボンネガティブ、ウォーターポジティブ、廃棄物ゼロという持続可能性目標」の達成に取り組んでいることを強調した。

しかし、1 つの企業の目標が業界全体の需要をすべて網羅することは決してできません。 他のアプローチが必要になる場合もあります。

ルッチョーニ氏は、企業が AI モデルにエネルギースター評価を導入し、消費者が家電製品と同じようにエネルギー効率を比較できるようにしてほしいと述べています。 デ・フリーズ氏にとって、私たちのアプローチはより根本的なものであるべきです。そもそも、特定のタスクに AI を使用する必要があるのでしょうか? 「AI のあらゆる制限を考慮すると、おそらく多くの場所で適切なソリューションにはならないでしょう。そして、それを見つけるのに苦労して多くの時間とリソースを無駄にすることになるからです」と彼は言います。