世界

独占 | 香港理工大学トップのAI科学者ヤン・ホンシア氏が香港の法学修士課程の発展に革命を起こす

ヤン氏によると、現在、LLMの開発は、主に次のような高度で高価なグラフィックス処理装置（GPU）の導入に依存しているという。 エヌビディア そして アドバンスト・マイクロ・デバイス、 で データセンター 膨大な量の生データを扱うプロジェクトでは、資金力のある大手テック企業や スタートアップ 大きな優位に立っている。人工知能科学者ヤン・ホンシアがコンピューター学部の教授を務める香港理工大学紅磡キャンパスの入り口。写真：スン・ヨンヤン氏は、彼女と同僚はLLM開発に「モデルオーバーモデル」アプローチを提案していると述べた。これは、コード生成、高度なデータ分析、専門のAIエージェントなど、何千もの特定の領域にわたって開発者が小規模なモデルをトレーニングする分散型パラダイムを必要とする。これらの小さなモデルは、その後、大規模で包括的な LLM (基礎モデルとも呼ばれる) へと進化します。ヤン氏は、このアプローチにより、LLM 開発の各段階での計算要件が軽減される可能性があると指摘しました。通常130億のパラメータ（機械学習用語で、トレーニング中にAIシステム内に存在する変数を指す用語で、データプロンプトが望ましい出力を生み出す方法を確立するのに役立ちます）に制限されるドメイン固有のモデルは、OpenAIの 最新のGPT-4モデル使用する GPU の数は 64 枚から 128 枚程度と大幅に少なくなります。ヤン氏によると、このパラダイムにより、LLM 開発が大学の研究室や中小企業にとってよりアクセスしやすくなるという。その後、進化的アルゴリズムがこれらのドメイン固有のモデルを進化させ、最終的に包括的な基礎モデルを構築すると同氏は述べた。香港がイノベーションとテクノロジーの中心地になることを目指しているため、香港でこのようなLLM開発を成功裏に開始することは、この都市にとって大きな勝利となるだろう。人工知能の第一人者である楊紅霞氏は、以前、米国のTikTokの親会社バイトダンスやアリババグループホールディングの研究部門であるダモアカデミーでAIモデルに取り組んでいた。写真：理工大学香港のダイナミックな雰囲気とAIの才能とリソースへのアクセスにより、この新しい開発パラダイムの研究を行うには理想的な場所であると楊氏は述べた。彼女は、理工大学の学長が、 テン・ジングアン このビジョンを共有しています。ヤン氏によると、彼女のチームは、小さな AI モデルを組み立てると、特定の分野で最先端の LLM よりも優れたパフォーマンスを発揮できることをすでに検証しているという。「業界では、高品質でドメイン固有のデータと継続的な事前トレーニングがあれば、GPT-4/4Vを上回ることは十分に達成できるというコンセンサスが高まっています」と彼女は述べた。マルチモーダルGPT-4/4Vは、ユーザーが提供する画像入力を分析し、OpenAIが広く利用できるようにした最新の機能である。ヤン氏は、次のステップは、AIコミュニティにもっと多くの才能を引き付けるために、より包括的なインフラプラットフォームを構築し、今年末か来年初めまでにいくつかのリリースを行うことだと語った。「将来的には、少数のクラウドベースの大規模モデルが主流となる一方で、さまざまな分野にまたがる小規模モデルも繁栄するだろう」と彼女は語った。ノースカロライナ州のデューク大学で博士号を取得したヤン氏は、一流の会議や学術誌に100本以上の論文を発表し、米国と中国本土で50件以上の特許を保有している。同氏はアリババの10兆パラメータM6マルチモーダルAIモデルの開発で重要な役割を果たした。 #独占 #香港理工大学トップのAI科学者ヤンホンシア氏が香港の法学修士課程の発展に革命を起こす