受信トレイでより賢い洞察が必要ですか？毎週のニュースレターにサインアップして、会社、データ、セキュリティマネージャーにとって重要なことのみを取得します。 購読する
腱大規模な言語モデルアプリケーション用のオープンソースインフラストラクチャの構築を開始しました、月曜日に発表 最初のサインからの参加 Bessemer Venture Partners奴隷制 財団奴隷制 を通して奴隷制 連合数十人の戦略的な天使の投資家。
18か月の企業が開発者のコミュニティで爆発的な成長を経験しているため、資金調達が行われます。テンソルゼロ オープンソース 最近到達しました「＃1週間トレンドリポジトリ世界中のGithubからGithubに、近年の数ヶ月で約3,000から9,700を超える星があり、企業は準備ができたAIアプリケーションの生産の複雑さに苦労しているためです。
「すべての業界の騒音にもかかわらず、LLMアプリケーションを構築する企業には、洗練された認知およびインフラストラクチャのニーズを満たすための適切なツールがまだ不足しており、それを使用して市場で利用可能なすべてのソリューションを組み合わせています」 「Tensorzeroは、LLMアプリケーションの建設のための会社の準備ができたコンポーネントである生産の程度を提供します。
ブルックリンに拠点を置く会社は、AIアプリケーションスケールで企業の塗装の増加ポイントに焦点を当てています。一方、大きな言語モデルのようです GPT-5 そして ドレス それらを信頼できるビジネスアプリケーションに変換する際にかなりのオプションを示しています。オーケストラには、アクセス、監視、最適化、実験のための複数の複雑なシステムのために必要です。
AIスケーリングは境界に達します
現在の境界、マーカーコストの増加、結論の遅延は、会社AIの変換です。私たちの排他的なサロンに参加して、最高のチームがどのようになっているかを発見してください。
- エネルギーを戦略的優位性に変換します
- 現実の生物の増加に関する効果的な結論をアーキテクテクティブする
- 競争IAは、持続可能なAIシステムでロックを解除します
核抵抗研究がブレークスルーAI最適化プラットフォームを形成したため
Tensorzeroアプローチは、核抵抗反応器のCo -FounderおよびCTO Viraj Mehta型にはまらないバックグラウンド補強トレーニングに由来しています。正午の医師の間 Carnegia MelonaMehtaはエネルギー研究部門のプロジェクトに取り組みました。そこでは、データ収集は「データポイントごとの車として – 5秒間30,000ドル」とコストがかかります。
「この問題は、限られたリソースに焦点を合わせる場所について大きな懸念を提起します」とMehta氏は述べています。 「私たちはいくつかの試験の準備をしていたので、質問は次のようになりました。データを収集できるわずかに価値のある場所は何ですか？」この経験は、テンソルゼロの主要な哲学を形成しました。各データポイントの価値を最大化して、AIシステムを継続的に改善します。
MehtaとCoファウンダーのGabriel Biankoni、元主要な製品役員への洞察 ONDOの資金 （10億ドル以上の管理資産を備えた分散型金融プロジェクト）LLMアプリケーションをレビューして、システムが実際のフィードバックから学習している補強トレーニングの問題としてレビューします。
「より広い文脈でのLLMの応用は、学習の問題を強化すると感じています」とMehtaは説明しました。 「構造化された入力を備えた機械学習モデルに多くの呼び出しを行い、構造化された出力を取得し、最終的に報酬またはフィードバックを取得します。これは、部分的に観察されたマルコフ決定コースのように見えます。」
企業が複雑なベンダーの統合を単一のAIインフラストラクチャに低下させる理由
LLMアプリケーションへの従来のアプローチでは、企業がさまざまなベンダーモデルゲートウェイ、観測可能性プラットフォーム、評価フレームワーク、明確化サービスから多くの専門ツールを統合する必要があります。 腱 これらの機会を、シームレスに連携するように設計された1つのオープンソーススタックに組み合わされます。
「ほとんどの企業はこれらすべての異なるツールを統合することに失敗しました。そうした企業でさえ、これらのツールは互いにうまく機能するように設計されていなかったため、断片化されたソリューションになりました」とビアンコーニは言いました。 「だから、このフィードバックループを作成できる製品を作成できることに気付きました。」
プラットフォームの主な革新は、創業者が「データとフライホイール」と呼ぶものです。これは、生産メトリックと人間のフィードバックを最も賢く、最速で安価なモデルに変えるフィードバックループです。さびに組み込まれたTensoRzeroは、1つのAPIを介してすべての主要なLLMサービスプロバイダーをサポートしながら、レイテンシのオーバーMを取得します。
メインバンクとAI新しく作成された企業はすでに生産システムを形成しますTensorzero
このアプローチはすでに著名な企業を惹きつけています。ヨーロッパ最大の銀行の1つは、テンソルゼロを使用してコード変更生成を自動化することですが、シリーズBの最初の新しい企業の多くは、プラットフォームを健康、金融、消費者アプリケーションなどのさまざまなセクターに統合しました。
「オープンソースのコミュニティとビジネスの採用の両方は信じられないほどです」とビアンコーニは言いました。 「私たちは、世界中の数十人の開発者から投資してきたことが幸運です。Tensorzeroがすでに国境企業や大規模な組織で進歩的なLLMアプリケーションを運営していることを見るのはエキサイティングです。」
同社の顧客ベースは、新しく設立された企業からの組織を、技術的な能力とプラットフォームのオープンソースの性質で構成される主要な金融機関までカバーしています。厳格なコンプライアンス要件を持つ企業の場合、独自のインフラストラクチャでTensoRzeroを管理する能力は、機密データを大幅に制御することができます。
TensorzeroがLangchainやその他のAIフレームワークをビジネススケールで破ると
腱 次のような既存のソリューションと自分自身を区別します ラングチェーン そして litellms 最終的なアプローチを使用して、生産レベルの配置に焦点を合わせます。多くのフレームは高速プロトタイプによって区別されますが、スケーラビリティの天井に影響を与えることが多く、企業はインフラストラクチャを復元します。
「思考には2つの側面があります」とBiangonsは説明しました。 「まず、迅速に開始するのに非常に良いプロジェクトがいくつかあり、プロトタイプを非常にすばやく投稿できます。多くの場合、これらの製品の多くを持つ企業が天井に到達し、他の何かに到達しなければなりません。」
データ収集に対する構造化されたアプローチは、より洗練された最適化方法も可能にします。 Tensorzeroは、生のテキスト入力と出力を保持する従来の観測可能性ツールとは異なり、各結論に至る変数に関する構造化されたデータを維持し、モデルをさまざまなアプローチの再訓練と実験が容易にします。
Rust -Powered Performanceは、1秒あたり10,000以上のクエリを備えたサブミリスレイテンシを提供します
パフォーマンスは主要な設計上の考慮事項です。容器では、テンソルゼロは、1秒あたり10,000以上のクエリを処理しながら、パーセンタイルの錆びたゲートウェイに1ミリ秒未満のレイテンシを追加します。 LithellmなどのPythonベースの代替品にとって有益であり、25〜100倍高いレイテンシをはるかに低いパスレベルに追加できます。
「Litellm（Python）100 QPSは、ゲートウェイ10,000 QPよりも25-100x以上のP99レイテンシを追加します」と創設者は声明で述べ、Rust実装のパフォーマンスメリットを強調しました。
AIの売り手が恐怖を抱えているために設計されたオープンソース戦略
腱 メインプラットフォームをフルオープンソースに維持することに取り組んでおり、売り手がオンになっている会社の顧客との信頼を構築するように設計されたフリー機能の戦略です。同社は、GPU管理のカスタマイズされたモデルトレーニングやプロアクティブな最適化の推奨事項など、LLM最適化の最も洗練された側面を自動化するマネージドサービスから利益を上げることを計画しています。
「私たちは非常に早く、このオープンソースを与えて与える必要があることに気付きました [enterprises] そうすることに自信がある」とバンゴンズは言った。」将来的には、少なくとも1年後、補完的な管理サービスで戻ります。 」
マネージドサービスは、LLM最適化コンピューティングの集中的な側面の自動化に焦点を当て、オープンコードコアを維持します。これには、明確化のためのGPUインフラストラクチャの処理、自動化された実験、モデルのパフォーマンスを改善するための積極的な推奨事項の提供が含まれます。
次の会社変革会社AIインフラストラクチャに何が起こるでしょうか
通知ポジション 腱 LLMOPSチャレンジを解決するための成長運動の最前線 – 生産におけるAIアプリケーションの複雑さ。企業は、AIを実験技術ではなく重要なビジネスインフラストラクチャとますます考慮しているため、生産対応の準備ができたツールの需要が加速し続けています。
Tensorzeroは、新しい資金提供により、オープンソースインフラストラクチャの開発をスピードアップして自分のチームを形成することを計画しています。同社は現在、ニューヨークで採用されており、開発者コミュニティのオープンソースの投資を歓迎しています。創設者は、さまざまなAIアプリケーションでより速く実験できる研究ツールの開発に特に興奮しています。
「私たちの主なビジョンは、データを提供し、フライホイールを学習してLLMアプリケーションを最適化することです。これは、生産メトリックと人間のフィードバックを最も賢く、最速で安価なモデルとエージェントに変えるフィードバックループです」とMehta氏は述べています。 「AIモデルがより賢くなり、より複雑なワークフローを引き受けるにつれて、それらを真空で正当化することはできません。彼らの本当の結果でそれをしなければなりません。」
テンソルゼロ Githubの急速な成長 そして、初期の会社Vilceは、現代AIの発展における最も上から日付の課題の1つに対処するための強力な製品市場を示しています。同社のオープンソースアプローチと企業レベルのパフォーマンスに焦点を当てることは、企業が売却される前に開発者が頻繁に行われる市場で決定的な利点であることが証明される可能性があります。
AIアプリケーションをプロトタイプから生産に移行させようとしている企業にとって、Tensorzeroの単一アプローチは、現在の専門的なツールの説得力のある代替手段を提供します。ある業界のオブザーバーが指摘したように、AIのデモンストレーションとAI企業の作成の違いはインフラストラクチャでしばしば発生し、テンソルゼロは、単一のパフォーマンス指向のインフラストラクチャが次世代のAI企業が構築される基礎となることを有効です。
毎日VBでのビジネス使用のための毎日の紹介
上司を驚かせたいなら、VB日ごとにカバーしています。規範的なシフトから実用的な配置まで、企業が生成AIで行っていることの内部スクープを提供して、最大IAについての洞察を共有できます。
サブスクリプションをありがとう。こちらのVBニュースレターをご覧ください。
エラーが発生しました。
1755550964
#TensorzeroはLLMの開発のために汚い世界を解決するために730万ドルの種をnabs
2025-08-18 20:08:00