メタは、新しいエキスパートベースのアーキテクチャをフィーチャーしたラマ4AIシリーズを発表します

メタは4月5日に新しいAIモデルシリーズ：Llama 4を発表しました。これには、Llama 4 MaverickとLlama 4 Scoutが含まれ、それぞれ会話と処理に合わせて大規模なファイルを処理し、Llama 4 Behemothと呼ばれる未発表の「教師」モデルです。

ラマ4 「専門家（MOE）建築の混合」を採用したメタの最初のシリーズです。このアプローチは、特定のサブタスクを処理するために、「専門家」と呼ばれるニューラルネットワークの選択部分のみをアクティブにします。タスクはサブタスクに分割され、それぞれが最も適切な専門家にルーティングされ、リソース効率が向上します。

Llama 4 Maverick and Scoutの詳細は何ですか？

Llama 4 Maverickには、128人の専門家と170億のアクティブパラメーターがあり、これは特定の入力を処理するために使用されるモデルの知識の一部を表しています。メタは、それを「一般的なアシスタントおよびチャットのユースケースの製品主力モデル」と説明し、画像解釈とクリエイティブライティングを専門としています。

興味深いことに、マーク・ザッカーバーグの会社は、マーベリックが会話に関して「クラス最高のパフォーマンスとコスト比」を提供していることを誇っています。驚き以来、コストがアイジャイアンツの心にかかっています 1月のDeepseekのリリース、それがかかっただけでした 訓練するために560万ドル。

見る： メタのチップスタートアップへの8億ドルのオファーが拒否されました – これがその理由です

しかし、AIの専門家は、さまざまなタスクで主要な大規模な言語モデルをランク付けしているLmarenaで公開されたLlama 4 Maverickのバージョンが「会話のために最適化されています” そして パフォーマンスは異なります 公開されているバージョンから。これは、メタが変更されたバージョンをLmarenaに提出したことを示唆しています。

Llama 4 Scoutには170億のアクティブなパラメーターとわずか16人の専門家がいますが、メタは「クラスで世界で最高のマルチモーダルモデル」であると述べています。これは、プロンプトで処理できる情報の量を表す1000万トークンの異常に大きなコンテキストウィンドウがあるため、大きなドキュメントを要約して連続的な推論でうまく機能します。

メタは、スカウトとマーベリックの両方が、ラマ4ベヒーモスから蒸留されているため、「これまでで最高」であり、なんと280億のアクティブなパラメーターと16人の専門家がいます。すでにLmarenaで非常にランク付けされていますが、まだ訓練されており、リリースされていません。によると 情報、ラマ4の発表は、技術的なベンチマークと会話性のモデルが不十分であるため、少なくとも2回遅れました。

Llama 4 MaverickとScoutにアクセスするにはどうすればよいですか？

ScoutとMaverickは、Llama.comとHugging Faceでダウンロードしたり、40か国のWhatsApp、Messenger、InstagramのMeta AIチャットボットで使用できます。マルチモーダル機能は、現在米国と英語でのみ使用できます。

一部のパートナーはすでに統合を発表しています。開発者は、MicrosoftのAzure AI FoundryおよびAzure DatabricksのLlama 4モデルでAIアプリケーションを構築および展開できます。

ラマ4は非政治的です

Metaは、Llama 4モデルから「バイアスを削除」するために特別に機能したと述べました。 「議論された政治的および社会的トピック」に関する質問に対する拒否率は、ラマ3.3のそれよりも5％以上低く、それが衰退する質問の中で、その回答は「劇的にバランスが取れている」と説明されています。

ドナルド・トランプ米国大統領のチームは、AIモデルの中立性について懐疑論を表明しており、彼のAIとCrypto Czar David Sacksは、OpenaiのChatGptが「」であることを示唆しています。目が覚めるようにプログラムされています」ポッドキャストで。AIの専門家は、最終的にバイアスが トレーニングデータに由来します そして、につながる可能性があります 政治的傾向 左だけでなく、どんな方向でも。

それにもかかわらず、Zuckerbergの会社は、米国政権の側にとどまることを望んでいることを示唆する最近の多くの動きをしました。共和党の戦略家ジョエル・カプランは、トランプが就任した直後にメタの政策主導として雇われました。彼はソーシャルメディアの規制をaと見なしています 言論の自由への直接的な挑戦。

1月に、メタは会社がその中断をしていることを明らかにしました サードパーティのファクトチェックプログラム コンテンツモデレーションチームをカリフォルニアからテキサスに移転して、「偏った従業員が過度に検閲しているという懸念を削除するのに役立ちます」。メタはそれを排除しました 多様性、公平性、および包摂 トランプがそのようなプログラムを批判した後のイニシアチブ。

さらに、メタは、Llama 4モデルは、Grokと同様の速度で「論争の多い」トピックに対する「強力な政治的無駄のない」で反応すると述べました。 現在のホワイトハウスアドバイザーイーロンマスク。

Llama 4はEUで使用できません

によると Llama 4許容可能な使用ポリシー、欧州連合に「主要な事業所」を持つ「居住」または企業は、モデルを使用または配布することはできません。ただし、これらの個人または企業は、地域でアクセスできる製品またはサービスに組み込まれている場合、Llama 4モデルを使用できます。

これは、特にEUの法律に関するメタの問題の結果である可能性が高い AIに関しては。 2024年6月、メタはそのトレーニングを遅らせました 大きな言語モデル EUの後にFacebookとInstagramで共有されているパブリックコンテンツについて、規制当局はコンテンツ所有者からの明示的な同意が必要になる可能性があることを示唆しました。メタAIはまだブロック内でリリースされていません。

見る： METAは、EUユーザーにあまりパーソナライズされていない広告を提供しています

メタは、ヨーロッパの規制当局を促す公開書簡に署名しました 昨年9月に「一貫性のない規制上の意思決定」と予測不可能なコンプライアンスの要求に対処するため。その後、2月に、メタはそれがそうであると宣言しました 懸念をエスカレートする準備ができました 会社がトランプに直接EUの不公平な規制と見なしているものについて。

毎月7億人以上のアクティブユーザーを抱える商業エンティティとして、Llama 4の使用に関しては他の制限があります。 メタから許可を要求する必要があります モデルを使用する前に。オープンソースのイニシアチブは、このような制限は「AI」を「カテゴリ」から「」とすると述べています。オープンソースメタがそうでないと主張しているにもかかわらず。