より生態学的なai |を求めてテクノロジー

大騒ぎのキャリアで 人工知能（AI）はノベルティに従います。そして、新しいローンチの中で、SO -CALLEDの小さなモデルが出現します。 小言語モデル またはSLM。それらはLLMSとは異なります。これは、ChatGptまたはGoogle Geminiのモーターとして機能する素晴らしいモデルです。これらのシステムは、よりシンプルで、リソースの効率を高めるために、コンピューターやモバイルで実行される場合があります。

それは、に頼る偉大なAIシステムの動作の反対です。 クラウドコンピューティング 働くために。これは、データセンターの大きな機械で情報を処理することを意味します。そして、環境への影響に気づきます。ゴールドマンサックスインベストメントバンク 計算します AIが2030年までにデータセンターのエネルギーニーズを165％増加させること。予後は、このタイプのインフラストラクチャを構築するために発熱の文脈で発生します。

American Company Openaiは、いくつかのパートナーとともに、データセンターを持ち上げるために最大500,000万ドルを投資する予定です。 2025年にのみ、Amazon、Microsoft、Google、Metaは、このタイプのインフラストラクチャで合計3億2,000万を超える支払いを計画しています。同時に、欧州委員会は 200,000百万ユーロを捧げますさまざまな資金調達により、AIのデータセンターを構築します。

コンピューティングリソースを蓄積するこの戦いを考えると、小さなAIモデルはより持続可能な代替手段になる可能性があります。ミストラルスモール3.1、オプション の 起動する フランス語 同じ名前のうち、32ギガバイトのRAMを持つMacで動作し、オープンソースプロジェクトTinyllama 1.1bを実装できます 8つ以上のRAMギガバイトを持つコンピューターでそれを試した人もいます で スマートフォン。 AIでのニュースカタログの一環として、Googleは最近Gemma 3 1Bを発売しました。 モバイルデバイス用に準備されています。アイデアは、開発者がそれを彼らに統合するということです アプリ インターネットに接続せずにタスクを実行する。

「小さなモデルはパラメーターの数が最も少ないように最適化されているため、最終的にはネットワークが小さくなります。最も効率的なモデルは、より少ない操作を行う必要があり、より少ないストレージスペースが必要であるため、エネルギー消費に最も効率的です」 情報通信技術研究センター コルーニャ大学から。彼女は著者の一人です 研究のこれは、環境レベルでより持続可能なAIを促進するための式を探求します。

「モデルも実行される場合 デバイス上 新しいクエリをデータセンターに送信する必要があります。これには明らかに、データを送信するコストがあり、さらに、大規模なデータセンターはより多くのエネルギーを消費します。あなた自身のデバイスでそれをするなら、あなたはそれをすべて保存します」とBolón-Canedoは言います。

もちろん、コンピューターまたはモバイルで実行される小さなモデルは、それほど正確ではなく、タスクを提供しません。たとえば、画像を生成するすべてのものは複雑です。進捗は迅速に行われますが。

「小言語モデルの開発、マルチモーダルモデル、高速で高速で進歩しています。企業。 彼らはこれらのモデルを準備します ヨーロッパのQualcomm TechnologyのディレクターであるGeorge Tsirtsis氏は、次のように述べています。彼の会社である彼の会社は、2年前にモバイルの安定した拡散モデルを販売し、イメージを生成し、15秒間に設計されたプロセッサ用のプロセスに設計されたプロセスの開発に設計された多数の電話ブランドに販売しています。

計算することは困難ですが、デバイスでモデルを実行する場合、エネルギー節約はかなりのものであると考えることができます。 「大規模なデータセンターには、より多くのエネルギーを消費するはるかに強力なマシンがあり、多くの冷凍の問題があります。コンピューターまたはデバイスには、保存するすべてのものです」とCanedo-Printは言います。 システムを実行します 自宅で。 「それほど多くのプライバシーの問題はありません。データはデバイスを放棄せず、クラウドに移動しません。さらに、情報の送信、処理、回答の受信に由来する遅延がないため、すぐに獲得されます。」

レポート 国際エネルギー機関から、現在消費されている総エネルギーの1.5％を占めるデータセンターは、2030年に3％が関与していると推定しています。彼らは年間945 Teravatios-Horaに到達し、日本のエネルギーニーズよりも大きい数字に達します。人工知能にリンクされているワークロードは、毎年30％の電力を消費します。

「デバイス上のAIの処理は、通常、データセンターの宿泊施設のモデル、特に実際の時間またはほぼ現実的な応答を必要とするアプリケーションで尋ねるよりも、エネルギーレベルではるかに効率的です」とTsirtsis氏は述べています。しかし、現地の実行には困難があります。 AI たくさんのエネルギーを消費します また、デバイス内でのみ動作する場合、これはバッテリーに影響を与えます。したがって、Qualcommなどのメーカーは、推論を効率的に管理することを目的としたNPU（ニューロン処理ユニットの英語の頭字語）を開発しました。

同社はまた、このタイプのプロセッサを、AIのコンピューターへの到着を宣言するための発明されたラベルであるAI PCの第1世代に適用しました。 「当社のSnapdragon Xプラットフォームには、生成AIの推論のために開発された高性能NPUとエネルギー効率が組み込まれています。これの設計 ハードウェア チップは、バッテリーの世話をしながら、ラップトップの複雑なタスクを管理できるようになります」とTsirtsis氏は言います。

しかし、まだ宿題を見ることはまだ残っています AIが役立ちます自宅で実行されました。いずれにせよ、小さなモデルは大きなモデルの代替ではありません。 「おそらくテキスト生成のために、おそらく自宅で実行される小さなモデルが提供するパフォーマンスで私たちを使用できるタスクがあります」とAIの研究者は反映しています。 「しかし、より深い理解、推論、マルチモーダルAI（テキスト、画像、オーディオなどのさまざまな形式で情報と知識を統合する）など、より高価な計算的に計算されるタスクがあります。確かに大きなモデルが必要です。」

デバイス自体を実行するのに適したタスクのいくつかは、単純なテキストの執筆、概要を生成し、画像での手書きの読み取り、テキストの翻訳、または音声成績証明書です。 Tsirtsisは、将来がハイブリッドアプローチを採用することを経ていることに同意します。その予測は、必要に応じてクラウドを呼び出し、デバイス自体の他のタスクを解決するアプリケーションになるということです。これは、パフォーマンスとエネルギー効率のバランスに向かって移動する方法です。