Nvidia CEO ジェンスン・ファンがトークンについて話すのをやめられない理由

Nvidia CEO ジェンセン・フアン氏の 同社の GTC カンファレンスでの発言には、繰り返されるテーマがありました。 AIトークン。

火曜日のアナリストとの会話の中で、フアン氏は将来のコンピューターをトークンを生成する「製造装置」として組み立てた。同氏は、トークンはラップトップやソフトウェアのサブスクリプションと同様、企業予算の中核となる項目になるだろうと述べた。

トークンについてこれだけ話がありますが、トークンとは一体何なのでしょうか?

トークンはテキストの単位 (単語または単語の一部) であり、AI の動作の測定方法と価格を決定します。短い単語は 1 つのトークンになる可能性がありますが、長い単語はいくつかに分割されることがあります。経験則では、1 つのトークンは約 4 文字です。

OpenAIのChatGPTやAnthropicのClaudeのような大規模な言語モデルは、ユーザーがテキストを入力したときに処理されるトークンの数と、応答として生成されるトークンの数を追跡し、AI大手はそれに応じて企業に請求する。扱うテキストが増えれば増えるほど、AI モデルの処理に必要なトークンも増えます。サブスクリプションまたは定額料金として請求される既存のソフトウェアのコストとは異なり、AI は使用量に応じて価格が設定されます。

将来、テクノロジーが仕事の中心となるにつれて、エンジニアは生産性を高めるために「トークン予算」を受け取る可能性があるとフアン氏は述べた。月曜日の基調講演中に、彼は次のようなアイデアさえも持ち出した。 Nvidia エンジニア トークンの提供 才能ある人材を引き寄せるためには年収の半分の価値がある。

黄氏は火曜日にこのアイデアを再び持ち出した。同氏は、特に高給取りのエンジニアにとって、エージェントやさまざまなタスクを実行できる自律型アプリの助けを借りて生産性を大幅に向上できるため、コストはそれだけの価値があると述べた。

Nvidia への売り込みの中で、Huang 氏は、より強力でエネルギー効率の高いハードウェアは、時間の経過とともにより安価にトークンを生成できると付け加えました。

「1 日あたり 100 ドルの推論コスト (トークンコスト) を追加してくれるなら、私は喜んでそうするだろう」と Huang 氏は、特に繁忙期にはエンジニアの給与に加えてトークンの支払いを行うことについて語った。 「緊急時に 1,000 ドルでも追加できるなら、喜んでそうします。」

黄さんは一人ではない。この概念はテクノロジー業界全体に浸透し始めており、エンジニアは面接でコンピューティングについて質問し、経営陣はコンピューティングをコンピューティングをコンピューティングの一部と考えています。 補償パッケージ。

エージェント AI の台頭により、トークンは人間の監視なしで実行されるため、トークンの使用量が劇的に増加する可能性があるとフアン氏は述べています。

「今、私たちが話している間、私たちのラップトップはすべてアイドル状態にある」と彼は火曜日に語った。 「しかし将来的には、エージェントが仕事を休んでいるため、コンピューターは年中無休で稼働し、トークンを作成することになるでしょう。」

ヒントはありますか？この記者に電子メールで問い合わせるには、次のアドレスを指定してください。 [email protected] または @geoffweiss.25 でシグナルを送信してください。個人の電子メール アドレス、仕事以外の WiFi ネットワーク、仕事以外のデバイスを使用します。 ここ‘私たちのガイドです 情報を安全に共有する。