アレクサンドル・ワン氏がAIの可能性とその「欠陥」について語る

6月12日、アレキサンダー・ワンはスケールのCEOを辞任し、メタの新しい「スーパーインテリジェンス」部門の責任者として人間よりも賢いAIを構築するという、これまでで最も野心的なムーンショットを追求した。この動きの一環として、メタ氏はスケールAIの少数株に143億ドルを投資する予定だが、本当の賞品は彼の会社ではなく、ワン氏自身だ。

28歳のワン氏は、今年問題に見舞われているメタ社のAIへの取り組みに危機感をもたらすと期待されている。 遅れ そして圧倒的なパフォーマンス。かつては無差別 AI の誰もが認めるリーダーであった米国のテクノロジー巨人は、人気のベンチマークで DeepSeek などの中国のライバルに追い越されました。 19 歳で MIT を中退したワン氏は、同僚の何人かに比べると学術的才能に欠けていますが、メタ社のライバル企業が AI システムを改善するために使用するデータの種類についての洞察と、比類のない野心の両方を提供しています。 GoogleとOpenAIはともにMeta契約を巡りScale AIとの契約を打ち切ると報じられている。スケール氏はコメントを控えたが、暫定CEOは同社が今後も独立した経営を続けると強調した。 ブログ投稿。

大きな目標はワン選手のものだ。彼は 24 歳までに、Scale を人工知能業界の巨人のデータにラベルを付ける主要企業に育て上げ、世界最年少の自力億万長者になりました。 「野心は現実を形作る」と、Scale の中核的価値観の 1 つ、つまりワン氏が作ったモットーであると書かれています。その意欲が彼を獲得した 賞賛 OpenAI CEO サム・アルトマン氏より 住んでいた パンデミックの間、数か月間ワンさんのアパートで過ごした。

しかし、彼の絶え間ない野心には代償も伴う。同氏は、スケール社の成功はデータを「第一級の問題」として扱ったことにあると信じているが、その焦点は常に同社の24万人を超える契約社員にまで及ぶわけではなく、そのうちの何人かは直面した問題に直面している。 支払いの遅延、減額、キャンセル タスクを完了した後。スケール社の共同設立者だが、ワン氏との意見の相違を受けて2018年に退社したルーシー・グオ氏は、それが彼らの「衝突点」の1つだったと語る。

「私は『彼らが期日通りに支払われるようにすることに集中する必要がある』と思っていました」と、ワン氏は成長のほうに関心を持っていたと郭氏は言う。 AI スケール 言った 支払いが遅れるケースは非常にまれであり、常に改善されています。

この「どんな犠牲を払っても成長する」という考え方の危険性が高まっています。超知能型アルは「核爆弾以来最も不安定な技術開発となるだろう」とある報告書は述べている。 政策文書 ワン氏は3月、グーグルの前最高経営責任者（CEO）エリック・シュミット氏およびAI安全性センター所長のダン・ヘンドリックス氏と共著を執筆した。 Meta での Wang の新しい役割により、彼は間違いの余地のないこのテクノロジーに関する重要な意思決定者になります。

タイム誌は4月、スケール社のCEOを辞任する前のワン氏にインタビューした。同氏は自身のリーダーシップスタイルや、米国がAGIとAIの「欠陥」にどれだけ備えているかについて語った。

このインタビューはわかりやすくするために要約および編集されています。

あなたのリーダーシップのスタイルは非常に斬新だと言われています。たとえば、従業員数が数百人に達しても、新入社員全員と 1 対 1 の電話会議を行うと報告されています。規模が拡大するにつれて、リーダーシップに対するあなたの見方はどのように進化しましたか?

リーダーシップは非常に多面的な分野ですよね?レベル 1 は、目の前にあることを達成できるかどうかです。レベル 2 は、「あなたが行っていることは正しいことですか?」です。正しい方向を向いていますか？そして、レベル 3 の項目もたくさんありますが、これがおそらく最も重要です。組織の文化は何ですか?そういうもの全部。

私のリーダーシップへのアプローチは、細部に非常に注意を払い、非常に雑草の中に取り込み、非常に集中し、高いレベルの緊急性を植え付け、組織が可能な限り迅速かつ緊急に重要な問題に向かって進むように努めることであると間違いなく思います。

さらに、健全な文化を発展させるにはどうすればよいでしょうか?人々が最高の仕事ができるポジションに配置され、そのような環境の中で常に学習し成長できる組織を開発するにはどうすればよいでしょうか。人生よりも大きな使命を与えられたとき、あなたには本当に素晴らしいことを達成する能力が備わります。

2018 年に中国を訪問して以来、あなたは中国の AI への野心によってもたらされる脅威について率直に発言してきました。現在、特にディープシークをきっかけに、ワシントンではこの見方がより支配的になっている。今は非主流かもしれないが、5 年ほどで主流になる AI 開発について、他に何か見解はありますか?

私は、エージェントの世界、つまり企業や政府がエージェントを使って経済活動を行うことがますます増えている世界だと思います。人間はますます、それらのエージェントの管理者や監督者のように感じるようになっているということ。そこで私たちは、より多くの経済活動をエージェントにシフトし、負担を与え始めています。これは確かに未来であり、社会として私たちが混乱を最小限に抑えながらその移行をどのように経験するかは、非常に簡単ではありません。

それについて話すと確かに怖く聞こえると思いますし、それはそれが非常に簡単に達成できるものではない、または非常に簡単に実行できるものではないことを示しているようなものだと思います。私の信念は、移行をスムーズに行うために、構築しなければならないこと、正しくしなければならないこと、実行しなければならないことがたくさんあると思うということです。

この種のエージェントの世界には多くの興奮とエネルギーが注がれていると思います。そしてそれは私たちの世界のあらゆる側面に影響を与えると私たちは考えています。したがって、企業は代理店になるでしょう。政府は代理政府となるだろう。戦争はエージェント戦争になるだろう。それは私たちが行うすべてのことに深く切り込むものであり、構築する必要があるインフラストラクチャと、主要な政策決定と重要な決定の両方の重要な部分がいくつかあります。 [about] それが経済内でどのように実装されるか、これらはすべて非常に重要です。

米国政府が「AGI」の可能性をどれほど準備し、どれほど真剣に受け止めているかについてどのように評価していますか [artificial general intelligence]?

AI は政権にとって非常に最優先の関心事であり、進捗率はどの程度なのかを評価しようと多くの試みが行われていると思います。多くの人が AGI と呼ぶものをどれくらい早く達成できるでしょうか?より遅い時間枠、より速い時間枠?時間がかかる場合、何を修復するのが適切でしょうか?これらは重要な会話だと思います。

副大統領 JD ヴァンスのところに行くと スピーチ パリ AI 行動サミットで彼は、現政権がアメリカの労働者に焦点を当てており、AI がアメリカの労働者にとって有益であることを保証するという概念について明確に語っています。

AI が進歩し続けるにつれて、つまり業界が猛烈なスピードで進んでいくにつれて、人々は注目し、行動を起こすようになるでしょう。

変革の機が熟していると思われる仕事の 1 つは、データ アノテーションそのものです。データセット OpenAI の Sora のキャプションに社内 AI モデルが使用されているのを私たちは見てきましたが、同時に推論モデルが定義された課題に関する合成セルフプレイ データでトレーニングされています。これらの傾向は、Scale AI のデータ アノテーション ビジネスに混乱の脅威をもたらすと思いますか?

実際は全く逆だと思います。 AI データセットへの貢献に関する AI 関連の仕事の増加を見ると (これを表す言葉はたくさんありますが、私たちは彼らを「貢献者」と呼んでいます)、時間の経過とともに指数関数的に増加しています。モデルが改良されるにつれて仕事がなくなるのかどうかについては、多くの議論が行われています。現実には、仕事は毎年何倍もの成長を続けており、これは私たちの成長からもわかります。

したがって、私の予想では、エージェント経済に向けて線を引くと、より多くの人々が現在 AI データの仕事と考えられている仕事に実際に取り組むことになり、それが経済の中でますます大きな部分を占めるようになるでしょう。

なぜ AI データ作業を自動化できなかったのでしょうか?

AI データ作業の自動化は、少しトートロジーのようなものです。AI データ作業は、モデルをより良くすることを目的としており、データを生成する目的でモデルが優れているのであれば、そもそも自動化は必要ありません。したがって、基本的に、AI データはすべて、モデルが不足している領域に焦点を当てています。そして、AIが経済内のますます多くの場所に適用されるにつれて、私たちはそこにさらに多くの欠陥を見つけることになるでしょう。

立ち止まって目を細めると、AI モデルは非常に賢く見えますが、実際に仕事の主要なワークフローのいずれかを実行するためにそれを使用しようとすると、それが非常に不十分であることがわかるでしょう。したがって、社会として、人類はこれらのモデルを改善する必要がある分野を見つけることを決してやめることはなく、それが AI データ作業の継続的な必要性を促進すると思います。