1706153639
2024-01-25 01:59:18
MLコモンズ人工知能のパフォーマンスベンチマークで最もよく知られている非営利団体が本日、新たな組織を設立すると発表した。 MLPerf クライアント ワーキング グループ。
このグループの目的は、AI ワークロードをローカルで実行するデスクトップ、ラップトップ、ワークステーションの機能を測定するベンチマークを確立することです。 新しいクライアント AI ベンチマークは、他の製品と比較して、どのラップトップやコンピューターが AI を活用したさまざまな生成アプリケーションやワークロードをより速く実行できるかという疑問に答えるのに役立ちます。
AI がクラウドからデバイス上でローカルに実行されるようになると、消費者にとってこのような質問はより重要になるでしょう。 これらにより、イメージを数秒で生成するか、数分待たなければならないかの違いが生じる可能性があります。
MLCommons はクラウド コンピューティング ベースの標準で最もよく知られており、ベンチマークのほとんどは、Nvidia Corp. のグラフィックス プロセッシング ユニットや Intel Corp. のライバル シリコンなどのプロセッサのパフォーマンスをテストするように設計されています。 それは業界のゴールドスタンダードとなっています。 AI データセンターのベンチマーク。 現在、同社はクライアント システムに対しても同じレベルの敬意を達成し、企業と消費者の購入を誘導できるようにしたいと考えています。
AI の重要性が高まるにつれて、そのようなワークロードをローカルで実行できる機能がコンピューティング エクスペリエンスの重要な側面になると組織は考えています。 ただし、各デバイスは異なり、文字通り何百もの異なるチップが利用可能であり、すべてに異なる AI ハードウェア アクセラレーション機能が組み込まれています。 さらに、各オペレーティング システムは独自の AI を活用した機能を備えており、デバイス メーカーやアプリケーション開発者も創造性を高めるために独自の AI 機能を追加しています。
消費者にとって、どの種類のコンピューターが必要な AI 機能を最適に実行できるかを知ることはほとんど不可能です。 そのため、各システムの AI パフォーマンスと効率を測定するための信頼できる基準が明らかに必要です。
で ブログ投稿MLCommonsは、新しいベンチマークは「シナリオベース」になる、つまり現実世界のユースケースに焦点を当て、「コミュニティからのフィードバックに基づいた」ものになると述べた。
クライアント デバイスの最初のベンチマークは、生成 AI テキスト生成に焦点を当てています。 これは、Meta Platforms Inc. の Llama 2 を実行しているときのラップトップ、デスクトップ、およびワークステーションのパフォーマンスを測定します。 Microsoft Corp.と緊密に協力しました。 と Qualcomm Inc. は、Windows および一部のモバイル デバイス向けに Llama 2 を最適化します。
MLPerf Client ワーキング グループには、Advanced Micro Devices Inc.、Arm Plc、ASUSTek Computing Inc.、Dell Technologies Inc.、Intel、Lenovo Group Ltd.、Nvidia などの企業が Microsoft と Qualcomm に参加しています。
MLCommons のエグゼクティブ ディレクターである David Kanter 氏は、AI の重要性が高まる中、クライアント システムに MLPerf を導入する機は熟していると述べました。 「大規模な言語モデルは、MLPerf クライアント ワーキング グループにとって自然で刺激的な出発点です」と彼は言いました。 「私たちはメンバーと協力して、MLPerf の優れた機能をクライアント システムに導入し、より広範なコミュニティ向けの新機能を推進できることを楽しみにしています。」
Nvidia のパフォーマンス ベンチマーク担当ディレクターである Jani Joki 氏は、MLPerf ベンチマークはデータセンターにおける機械学習のパフォーマンスと効率の進歩にとって重要な尺度として機能していると述べました。 「私たちは、クライアント システムで同様の役割を果たすベンチマークの作成に貢献できることを楽しみにしています」と彼は付け加えました。
協力者のリストに含まれていない注目すべき企業の 1 つは Apple Inc. であり、これは同社の MacBook デバイスが MLCommons が考え出すあらゆるテストの対象となる可能性は低いことを意味します。 とはいえ、生成AIが定着する可能性が高まっていることから、Appleも将来的には参加せざるを得ないかもしれない。 そうだと仮定すると、デバイス上で生成 AI を実行できるかどうかが、人々が購入を決定する際の重要な考慮事項となる可能性があります。
Qualcomm と Arm がワーキング グループに参加していることを考えると、新しい MLCommons クライアント ベンチマークは、いつかスマートフォンやタブレットも含めるように拡張されるかもしれません。
画像: MLCommons
あなたの支持投票は私たちにとって重要であり、コンテンツを無料で維持するのに役立ちます。
以下のワンクリックは、無料で深く関連性の高いコンテンツを提供するという私たちの使命をサポートします。
YouTube のコミュニティに参加してください
Amazon.com CEO の Andy Jassy 氏、Dell Technologies の創設者兼 CEO の Michael Dell 氏、Intel CEO の Pat Gelsinger 氏、その他多くの著名人や専門家を含む 15,000 人を超える #CubeAlumni 専門家が参加するコミュニティに参加してください。
「TheCUBE は業界にとって重要なパートナーです。 皆さんは本当に私たちのイベントに参加してくれています。来てくれて本当に感謝しています。皆さんが作成したコンテンツも同様に高く評価していると思います」 – アンディ・ジャシー
ありがとう
#MLCommons #はPC #上の #パフォーマンスを測定するためのゴールドスタンダードになることを目指しています