テスラの道場、タイムライン | >

イーロン・マスクはテスラを単なる自動車メーカーにはしたくない。テスラをAI企業、つまり自動車を自動運転させる方法を見つけ出した企業にしたいのだ。

その使命にとって重要なのは テスラの特注スーパーコンピューター「Dojo」 完全自動運転（FSD）ニューラルネットワークをトレーニングするために設計されている。FSDは実際には完全な自動運転ではない。一部の自動運転タスクは実行できるが、ハンドルを握る注意深い人間が依然として必要だ。しかしテスラは、より多くのデータ、より多くの計算能力、より多くのトレーニングにより、ほぼ自動運転から完全な自動運転への閾値を超えることができると考えている。

ここで Dojo が登場します。

マスク氏は以前からDojoについてほのめかしてきたが、同氏は2024年を通じてこのスーパーコンピューターに関する議論を活発化させてきた。テスラにとってDojoの重要性は存亡に関わるものかもしれない。EVの売上が低迷する中、投資家はテスラが自律走行を実現できるという保証を求めているのだ。以下はDojoに関する言及と約束のタイムラインである。

2019

道場の最初の言及

4月22日 – で テスラの自動運転の日テスラは、AIチームをステージに招き、オートパイロットと完全自動運転、そしてその両方を支えるAIについて語った。同社は、ニューラルネットワークと自動運転車向けに特別に設計されたテスラのカスタムチップについての情報も共有した。

イベント中、マスク氏はDojoについて少し触れ、それがAIトレーニング用のスーパーコンピューターであることを明らかにした。また、当時生産されていたすべてのテスラ車には完全自動運転に必要なハードウェアがすべて搭載されており、必要なのはソフトウェアのアップデートだけだとも述べた。

2020

マスク氏がDojoロードショーを開始

2月2日 – マスク 言う テスラは、完全な自動運転に必要なセンサーとコンピューティング機能を備えたコネクテッドカーを世界中に100万台以上導入する予定であり、Dojoの機能を誇示しています。

「当社のトレーニング用スーパーコンピューターである Dojo は、膨大な量のビデオトレーニングデータを処理し、膨大な数のパラメーター、十分なメモリ、コア間の超高帯域幅を備えたハイパースペースアレイを効率的に実行できるようになります。これについては後ほど詳しく説明します。」

8月14日 – マスク氏は繰り返し テスラは、ニューラルネットワークのトレーニング用コンピューター「Dojo」を開発する計画を「膨大な量のビデオデータを処理できる」と述べ、それを「モンスター」と呼んでいる。また、彼はDojoの最初のバージョンは 「約1年後」 発売日は2021年8月頃になると思われます。

12月 31 — イーロンは言う 道場は必要ないしかし、自動運転はより良くなるだろう。「人間のドライバーよりも安全になるだけでは十分ではありません。オートパイロットは最終的に人間のドライバーよりも10倍以上安全である必要があります。」

2021

テスラがDojoを公式化

8月19日 – 自動車メーカーはDojoを公式に発表した。 テスラ初のAIデーは、テスラのAIチームにエンジニアを引き付けるためのイベントです。テスラは、D1チップも発表しました。テスラは、このチップをNvidiaのGPUと併用してDojoスーパーコンピューターを動かすと発表しました。テスラは、AIクラスターに3,000個のD1チップが搭載されると述べています。

10月12日 – テスラのリリース 1つの Dojo テクノロジーのホワイトペーパー、「Tesla の設定可能な浮動小数点形式と演算のガイド」。このホワイトペーパーでは、ディープラーニング ニューラル ネットワークで使用される新しいタイプのバイナリ浮動小数点演算の技術標準の概要が説明されており、「完全にソフトウェアで、完全にハードウェアで、またはソフトウェアとハードウェアの任意の組み合わせで」実装できます。

2022

テスラがDojoの進捗状況を明らかに

8月12日 – マスク氏はテスラは「Dojo でのフェーズ。 来年はそれほど多くの追加 GPU を購入する必要はありません。」

9月30日 – テスラの 第2回AIデー同社は、最初の Dojo キャビネットを設置し、2.2 メガワットの負荷テストを行ったことを明らかにした。テスラは、1 日に 1 タイル (25 個の D1 チップで構成) を製造していたと述べている。テスラはステージ上で Dojo のデモを行い、安定拡散モデルを実行して AI 生成の「火星のサイバートラック」画像を作成している。

重要なのは、同社が完全なExapodクラスターを2023年第1四半期までに完成させる目標日を設定しており、パロアルトに合計7つのExapodを構築する計画であると述べていることだ。

2023

「大穴の賭け」‘

4月19日 – マスク氏は投資家に対し、 テスラの第1四半期の収益 Dojo は「トレーニングのコストを桁違いに削減できる可能性がある」だけでなく、「Amazon Web Services が Web サービスを提供しているのと同じように、他の企業に提供できる販売可能なサービスになる可能性もある」と述べています。

マスク氏はまた、「Dojo は、ある種の長期的な賭けだと考えている」が、「賭ける価値のある賭けだ」とも述べている。

6月21日 — テスラAI Xアカウント 投稿 同社のニューラルネットワークはすでに顧客の車両に搭載されている。スレッドには、テスラの現在の計算能力と予測される計算能力のタイムラインを示すグラフが含まれており、Dojo の生産開始は 2023 年 7 月とされているが、これが D1 チップを指しているのか、スーパーコンピューター自体を指しているのかは不明である。 マスク氏は言う その同じ日に、Dojo はすでにオンラインになり、Tesla データセンターでタスクを実行していました。

同社はまた、テスラのコンピューティング能力が2024年2月頃までに世界トップ5に入ると予測しており（これが成功したという兆候はない）、2024年10月までに100エクサフロップスに到達するとしている。

7月19日 – テスラ ノート 同社は第2四半期の業績報告で、Dojoの生産を開始したと発表。マスク氏はまた、テスラは2024年までにDojoに10億ドル以上を費やす計画だと述べている。

9月6日 – マスク氏の投稿 Xについて テスラはAIトレーニングの計算能力に限界があるが、NvidiaとDojoがそれを解決してくれるだろうと彼は言う。テスラが1日に車から取得する約1600億フレームのビデオのデータを管理するのは非常に難しいと彼は言う。

2024

拡大計画

1月24日 – テスラの第4四半期および通期の収益報告会で、マスク氏はDojoがハイリスク、ハイリターンのプロジェクトであることを改めて認めた。また、テスラは「NvidiaとDojoの二重の道」を追求しており、「Dojoは機能している」し、「トレーニングの仕事を行っている」とも述べた。同氏は、テスラはDojoを拡大しており、「Dojo 1.5、Dojo 2、Dojo 3などの計画がある」と指摘した。

1月26日 – テスラは5億ドルを投じて バッファローのDojoスーパーコンピューターマスク氏はその後、この投資をやや軽視し、 Xに投稿 5億ドルは大きな金額だが、「Nvidiaの10k H100システムに相当するだけだ。テスラは今年、それ以上の金額をNvidiaのハードウェアに費やすだろう。現時点でAIで競争力を持つための最低条件は、少なくとも年間数十億ドルだ」

4月30日 – TSMCの北米技術シンポジウムで同社は、Dojoの次世代トレーニングタイルであるD2がすでに生産中であると発表した。D2は、25個のチップを接続して1つのタイルを作るのではなく、Dojoタイル全体を1枚のシリコンウェーハに載せるものである。 IEEE スペクトラム。

5月20日 – マスク ノート ギガテキサス工場拡張部分の後部には、「超高密度の水冷式スーパーコンピュータクラスター」の構築が含まれる予定。

6月4日 – あ CNBCレポート マスク氏がテスラ向けに確保していた数千個のNvidiaチップをXとxAIに転用していたことが明らかになった。当初は報道は誤りだと主張していたが、 マスク氏がXに投稿 テスラは、ギガ・テキサスの南側拡張工事が継続中のため、NVIDIA チップを送って電源を入れる場所がなく、「そのまま倉庫に放置されていただろう」と述べた。同氏は、拡張部分には「FSD トレーニング用の H100 が 5 万台収容される」と指摘した。

彼はまた 投稿:

「テスラが今年行うと私が言った約100億ドルのAI関連支出のうち、約半分は内部的なものであり、主にテスラ設計のAI推論コンピューターと、当社の全車両に搭載されているセンサー、そしてDojoです。AIトレーニングスーパークラスターの構築には、NVidiaハードウェアがコストの約3分の2を占めています。テスラによる今年のNVIDIA購入額は、現時点では30億ドルから40億ドルと予想しています。」

7月1日 – マスク氏がXで明らかに 現在のテスラ車には、同社の次世代 AI モデルに適したハードウェアが搭載されていない可能性がある。同氏は、次世代 AI によるパラメータ数の約 5 倍の増加は、「車両推論コンピューターをアップグレードせずに実現するのは非常に難しい」と述べている。

Nvidiaの供給課題

7月23日 – テスラの第2四半期の収益報告会で、マスク氏はNVIDIAのハードウェアに対する需要が「非常に高く、GPUの入手が難しいことが多い」と述べた。

「したがって、必要なトレーニング機能を確実に得るためには、Dojo にさらに多くの労力を費やす必要があると思います」とマスク氏は言う。「そして、Dojo によって Nvidia と競争できる道筋が見えています。」

テスラの投資家向け資料のグラフでは、テスラのAIトレーニング能力は6月の約4万から2024年末までに約9万のH100相当GPUに増加すると予測されている。その日の後半、Xで マスク氏の投稿 Dojo 1では年末までに「約8,000 H100相当のオンライントレーニング」を実施する予定だ。また、 写真 このスーパーコンピューターは、テスラのサイバートラックと同じ冷蔵庫のようなステンレス鋼の外装を使用しているようです。

XXX

7月30日 – AI5は量産開始まで約18ヶ月かかるとマスク氏は言う。 返事 「AI5 が発売されたときに取り残されたことに怒っている Tesla HW4/AI4 所有者」のクラブを設立すると主張する人物からの投稿。

8月3日 – マスク氏がXに投稿 彼は「Giga Texas の Tesla スーパーコンピューティング クラスター (別名 Cortex)」のウォークスルーを行った。彼は、それがおよそ 100,000 個の H100/H200 Nvidia GPU で構成され、「FSD と Optimus のビデオ トレーニング用の大規模なストレージ」を備えていると述べている。