OpenAI への挑戦を希望するフランスのスタートアップを紹介する

S青梅のレース 本当に動き出す前に終わってしまいます。 したがって、最高の大規模言語モデルを作成するコンテストが行われているように見えます (LLMs）。 これらのアルゴリズムは、人間のようなテキストやその他の出力を生成できる生成人工知能を強化します。 開けるAI、アメリカのチャットの作成者GPT、数リーグ先に表示されます。 それは世界最強を作りました LLM、と呼ばれる GPT-4. 同社は、より賢いモデルを構築するために人材、データ、コンピューティングパワーを貪欲に消費している。 その結果、より多くのユーザーを惹きつけ、さらに洗練されたモデルに注ぐ資金が増えます。

しかし、ミストラルと呼ばれるフランスの新興企業が、この問題にスパナを投げ込もうとしている。 AI フライホイール。 2月26日に新作が発売されました LLM。 ミストラルラージと呼ばれるこのモデルは、 GPT-4、使用するパラメーターの数によって測定されます (モデルの能力の共通ゲージ)。 それでもほぼ匹敵する GPT推論など、パフォーマンスの重要な側面で -4。 ミストラルは、ミストラルラージを活用したチャットも発表しましたGPT 競合他社の Le Chat (ル シャーと発音、英語の同音異義語ではなくフランス語の猫に似ています)。 そしてマイクロソフトとの契約を発表した。 AI すでに Open と深いパートナーシップを結んでいる巨大企業AI。 テクノロジー大手はミストラル社に少額の株式を取得し、フランス企業のモデルを同社のAzureクラウド経由で利用できるようにする予定だ。

ミストラルは、この業界がすでによりオープンになり、アメリカ的ではなくなりつつあることを証明しています。 もしそれが OpenAI に深刻な挑戦を仕掛けるなら、生成 AI ではサイズがすべてではないという業界の一部の人々の疑念も裏付けられることになる。 ミストラルの最高経営責任者、アーサー・メンシュ氏は「もはや規模が大きくなることではなく、創造性とスピードが重要だ」と語る。

フランス企業の上昇は、社名の由来となった冬の北西風のように活発だった。 設立して1年も経っていないが、従業員数はまだ25人しかいない。 それにもかかわらず、その LLMは、成長を続けるオープンソース モデルの集団をリードしており、その統計的内部は、次のような独自のブラック ボックスとは対照的に、 GPT-4、公開されており、誰でも変更できます。 これにより、ミストラルは 4 億 9,000 万ユーロ (5 億 3,100 万ドル) という驚異的な資金を調達することができ、会社の評価額は 20 億ドルを超えました。 大規模な投資家には、アンドリーセン・ホロヴィッツ氏やゼネラル・カタリスト氏などのシリコンバレーの有力ベンチャーキャピタリストや、グーグルの元最高経営責任者エリック・シュミット氏などのハイテク界の著名人が含まれる。

ミストラルの初期の成功は、主要な技術要素を巧みに組み合わせたおかげです。 AI—才能、データ、コンピューティング能力—と政治は、世界にとってますます重要性を増しています。 AI 世界各国の政府がこのテクノロジーの可能性を熟考する中、産業界に大きな影響を与えています。

まずは才能から始めましょう。 ミストラルは、フランスの工学教育とアメリカの大手ハイテク企業との「天国のような組み合わせ」だと、ダスト社の共同創設者でスタニスラス・ポル氏は言う。 AI パリに会社が出現。 ミストラルの創設者 6 人のうち 3 人、およびその技術頭脳であるメンシュ氏、ティモシー・ラクロワ氏、ギヨーム・ランプル氏は、フランスのエリート専門学校の出身です。 他の多くのトップと同様に AI 彼らはグーグルと、もう一つのアメリカの巨大テクノロジー企業であるメタの研究所で働いてきた科学者たちだが、このトリオの場合は彼らが構築していた。 LLMロンドンやシリコンバレーではなく、パリにあるそれらの研究所の分社にあります。 これにより、彼らは、最先端のモデルをトレーニングする方法を本当に知っている世界中の 100 人ほどの人材の一人に数えられます。

彼らは、モデルをトレーニングするためのデータのマーシャリング（モデルの 2 番目の要素）に特に熟練していたようです。 AI 成功。 メンシュ氏は、ミストラルがトレーニングセットをどのように正確に厳選しているかについては興味を示さないだろう。 それが彼の会社の競争上の優位性の源泉である、と彼は言います。 しかし、業界関係者らは、ミストラルは、ある人の言葉を借りれば、例えば繰り返しの情報や意味のない情報をフィルタリングするなど、キュレーションにおいて「非常に賢い」と認めている。 これにより、Mistral のモデルを大幅に小さくすることができました。Mistral のモデルの統計的重み、つまり「パラメータ」は、Open の推定 1.8 兆と比較して、数十億単位に達します。AIさんの GPT-4 (両社とも正確なサイズについては不明)。 これにより、顧客は多くの独自モデルで必要となる広大なデータセンターではなく、自分のコンピュータでそれらを実行できるようになります。

Mensch 氏によると、Mistral はデータのキュレーションに重点を置いているため、コンピューティング能力を活用できます。 AIの 3 番目に重要なコンポーネントであり、競合他社よりも効率的です。 ミストラルの最新モデルのトレーニングにかかる費用は、オープンにかかる 1 億ドルよりもはるかに安価です。AI 明らかに開発に費やした GPT-4. また、ミストラルのアプローチにより、顧客は自社のデータを使用してモデルを微調整し、実行するコストが安くなります。

技術的に言えば、ミストラルのようなスタートアップは「後発者利益」を享受しており、オープンな取り組みすべてから恩恵を受けています。AI General Catalyst の Jeannette zu Fürstenberg 氏は、他の人たちもそうしたと主張しています。 重要なことに、ミストラルの場合、これらの技術的な切り口は政治的なヌースによって補完されており、多くの政府が自国の政策であると考えていることを考えると、これは役に立ちます。 LLM経済的および戦略的利点がもたらされます。

したがって、ミストラルのもう一人の共同創設者が元フランスデジタル大臣のセドリック・オー氏であることは助けになる。 O 氏は、AI 全般に強い関心を持っている同国の大統領エマニュエル・マクロン氏と直系のつながりを保っている。 欧州連合の草案が制定されると、 AI 昨年の法律は、ミストラルにそのデータレシピの漏洩を強制すると脅しており、O氏はマクロン氏の支援を受けて、そのような規定に反対する仏独の取り組みを成功させようと調整した。 これらは法案から正式に削除されました。

現在の問題は、まだ大きな収益を上げていないミストラルが、この魅力的な技術と政治の組み合わせを利益に変えることができるかどうかだ。 同社は、多くの企業、特にヨーロッパの企業が、 LLM彼らはOpenよりも使用しますAI それらを与えるつもりであり、別のアメリカのテクノロジープラットフォームに閉じ込められることを望んでいません。 そのような顧客は、モデルの保守と実行のためにミストラルに喜んでお金を払うだろうと考えられています。

潜在的な顧客が自問するかもしれない疑問の 1 つは、世界がオープンソース モデルをどのように規制するかということです。 テロリストやその他の悪者が生物兵器やサイバー兵器を製造できるようになるかどうかをめぐる激しい議論は沈静化した。 政策立案者間の議論はリスクを語る代わりに、透明性の向上、イノベーションの促進、テクノロジーをコントロールしてきた少数の強力な企業への依存の軽減など、潜在的な見返りに目を向けている。 大西洋の両側の規制当局はこれまでオープンソースを容認してきた LLMs. しかし、これらのモデルがさらに強力になったり、たとえば今年の世界中での選挙の最中に偽情報の拡散を助けるなどの悪用が判明したりすれば、O氏は再び手一杯になるかもしれない。

政治的な反発を避けることがミストラル社の利益になるのは明らかだが、ロビー活動の成功には裏返しがある。 規制が寛容になれば、ほぼ確実にオープンソースの競争が激化するでしょう。 2月20日サイロにて AIフィンランド企業は、新しい製品を発表しました。 LLM これはミストラルのものよりもさらにオープンであり、トレーニングの対象となったデータとその仕事を行ったソフトウェアに関する情報を提供します。 数か月以内にリリースされる予定の新しいバージョンは、現在のフィンランド語と英語と同様に、ほとんどのヨーロッパ言語で機能する予定です。

最も重要なことは、サイズが生成にとって重要かどうかがまだ不明であることです。 AI。 開くとテストが来ますAI ついに次期モデルが発売されましたが、 GPT-5. もしこれで、Mistral-Large やその他の小規模なオープンソース モデルが埋もれてしまえば、Mensch 氏の創造性とスピードについての話は空虚に聞こえるかもしれません。 しかしそれまでは、ミストラルの物語は反響を呼び続けるだろう。 ■