カレン・ハオ、ジャーナリスト: 「ビッグテクノロジーの戦術は、かつての帝国の戦術と同じです」 |テクノロジー

彼は世界で最も重要なスタートアップ アクセラレータの 1 つを運営していました。彼はカリフォルニア州知事に立候補しようとしていた。彼は反論した OpenAIの会長職をイーロン・マスクに譲り、彼を打ち負かした。しかし、そのマイルストーンは、 サム・アルトマンを地図に載せる これは、ChatGPT の 2022 年 11 月リリースでした。それ以来、人工知能 (AI) ブームの目に見える顔となってきました。 世界最大手の企業が協力して行動するよう強制した大手テクノロジー企業。

物議を醸すアルトマンの人物とAI革命の性質について。 AIの帝国。サム・アルトマンと世界を支配する彼の競争この本は、出版社のPenínsulaから11月にスペインに到着する予定です。これは、AI について執筆したジャーナリスト、カレン・ハオ氏による初の本です。 MITテクノロジーレビュー、 ウォール・ストリート・ジャーナル y 大西洋。この30代の中国系アメリカ人（彼女は年齢を明かしたくない）の名前が付けられた。 雑誌で 時間 彼が AI の最も重要な人物 100 人の 1 人に選ばれたのは、まさに彼の本の百科事典的な品質のおかげであり、その本は、チリで環境活動家による抗議活動を引き起こしたり、ケニア人に貧困賃金を支払ったりする世界的な産業の範囲を批判的かつ厳密に分析しており、内容は控えめです。

この結果はアルトマン氏にとって気に入らなかった。アルトマン氏は、直接言及することなく、誰も読むべきではないとツイートした。ハオはそれを褒め言葉として受け取ります。 「私がこの本の中で説明していることはすべて、文書によって裏付けられているか、私が行った200回以上のインタビューで語られたことです」と彼は香港からのビデオ会議で語った。

聞く。 なぜ本のタイトルに帝国という言葉を使っているのですか？

答え。 私たちが何について話しているのかを明確にするためです。これらの企業を単に製品やサービスを提供する企業として説明するのは、社会のさまざまな分野で展開してきた影響力と支配の程度、地球を物理的に改変している方法、政治や地政学を再構築している程度、あるいは教育制度を再構成している程度を考慮すると、不公平であろう。支配的かつ世界的な独占を発展させるためのこれらの企業の戦術は、往年の帝国の戦術とまったく同じです。

P. それらの戦術とは何ですか？

R. この本の中で私は、古代帝国と AI の帝国との間にある 4 つの類似点を指摘しています。 1 つ目は、彼らは自分のものではないリソースを主張し、実際には常に自分のものであるかのようにルールを書き換えることです。これは、パブリックドメインであるため無料であると主張して、インターネット上のすべてのデータを収集することによって行われます。

2つ目は、異常な量の労働を搾取していることです。帝国は大規模な労働力から多大な経済的価値を引き出しましたが、その後は何も還元しませんでした。 AI 企業はまた、数万人の従業員を雇用しています。 彼らは世界のさまざまな地域で悲惨な給料を払っています テクノロジーを生産し、人々が職を失うような作業自動化テクノロジーを開発しています。

3 番目の類似点は、帝国が常に知識の生産を独占しているということです。過去 10 年間、私たちは次のようなことを見てきました。 AI業界は世界の一流科学者を虜にしている学問としての AI の研究は、企業の利益に基づいて歪められてきました。もし環境科学者が石油会社から資金提供を受けていたら、気候危機に対する私たちのイメージは歪められるだろう。それが AI の問題です。私たちはその本当の機能と限界について明確に把握していないのです。

そして、私が描く最後の類似点は、帝国は常に、進歩と近代性をもたらす文明的使命を持った善の帝国と、人類を破滅させる可能性のある悪の帝国が存在するという物語を展開しているということです。そしてそれはまさに、AI帝国が今日中国について語るときに使う類のレトリックだ。

「シリコンバレーではAIを巡る準宗教的な動きがあり、それは誰も疑問を持たない定説となっている。」

P. 人々はこれらの企業が持つ力を認識していると思いますか?

R. ますます、そうです。これらの企業の経営陣が恥知らずになり、自分自身をさらけ出してくれるのは助かる トランプ大統領の就任式で ああ ホワイトハウスでの食事。しかし、これらの企業が極度の企業力を蓄積しているだけでなく、政治的、社会的、文化的力も蓄積していることを十分に理解していない人がまだ多いと思います。しかし、それがあなたに直接触れると、あなたは突然そこに何があるのかに気づきます。米国では、AIが青少年のメンタルヘルスに与える影響により、これらの企業に対して非常に否定的な反応があり、場合によっては自殺につながっている。

P. テクノロジーとしての AI についてどう思いますか?

R. 私はそれをテクノロジーのカテゴリーとして捉えています。 AI は交通手段のようなものです。自転車からロケットに至るまで、私たちの移動手段は数多くあり、それらはさまざまな方法で機能し、費用対効果、設計、目的も大きく異なります。さまざまな形式の AI について公の場で議論したことはありません。問題は、AI が増えるか減るかというだけではなく、どのような種類の AI が必要かということです。新薬の発見、がんの検出、建物のエネルギー消費の削減に使用されるものもあります。これらはすべて AI の自転車であり、ChatGPT のようなモデルはロケットです。この資金はAIロケットの資金に充てられるが、AIロケットは非常に高価であり、現時点ではAIロケットがどのようなメリットをもたらすのかはあまり明らかではない。

P. この本を準備するための文書化と調査の段階で最も注目を集めたのは何ですか?

R. 私が最も驚いたのは、シリコンバレーで AI を巡る準宗教的な動きがどれほど広がっているかを見たことでした。人々は現在、汎用 AI (AGI、人間と同等かそれを超えるもの) が差し迫っており、文明に壊滅的な変革をもたらすだろうと熱烈に信じています。そして彼ら自身も、それを裏付ける科学的証拠がないため、それを信念として説明しています。それにもかかわらず、多くの人がそれが真実だと思い込んでおり、誰も疑問を持たない定説となっています。私は、AGI がすべてを破壊するだろうと考えていた業界の人々と話しました。彼らは、約 5 年後に愛する人たちが全員死ぬかもしれないと考えると、恐怖で声が震えていました。

P. 著名な科学者でさえ、証拠がないにもかかわらず、AGI がすぐそこまで来ていると考えているのはなぜでしょうか?

R. 莫大な金と権力の岐路に立たされると、道徳的責任の下で崩壊し始め、なぜ自分がそうする番なのかを正当化するために、ある種の道徳的枠組みに引き寄せられるようになる。私はこれらの会社に出入りする人々を見てきましたが、一度入社すると、その会社の信念体系をすぐに受け入れないのは非常に難しいということです。非常に賢くて親切な人々に囲まれており、実際に自分のやっていることは世界のためになると考えるようになるのです。また、それらの会社を辞めてから数か月後に、「うわー、そんなこと信じていたなんて、とても奇妙だ」と言う人も見てきました。

P. サム・アルトマンってどんな人？

R. 彼は信じられないほどカリスマ性があり、実際に見るといかに普通で謙虚に見えるかで人々を本当に驚かせます。しかし最終的には、彼は非常に戦略的で、人間の心理を理解し、人々に権力、資源、お金、時間、才能を与えるよう説得するストーリーを語るのが得意です。この興味深い特徴の組み合わせにより、彼は物議を醸す人物です。なぜなら、彼を私たちの世代の最も偉大なテクノロジーリーダーの一人で先見の明があると熱烈に信じている人もいれば、彼を邪悪で危険で操作的で嘘つきだと考える人もいるからです。

P. その組み合わせはどのように機能するのでしょうか？

R. アルトマンのスーパーパワーは、非常に説得力があることに加えて、人々に自信を植え付け、彼らをさらに野心的にさせる能力です。彼は信じられないほどやる気を起こさせるリーダーであり、人々をこれまで以上に熱心に働かせ、さらに前進させることができます。会社が小さかった頃は、それがとても強かったと思います。しかし、成長するにつれ、アルトマン自身は、自分は作戦上のリーダーではなく、ビジョンを持ったリーダーだと考えていると語った。彼は人を管理するのが苦手です。彼は対話者に応じて異なる自分を見せ、彼らが聞く必要があると思うことを全員に伝えます、そしてそれが腐敗となって組織内に定着し、亀裂が生じています。

「OpenAIはFacebookのようになるだろう。自社の利益だけを気にし、そのテクノロジーが社会に非常に腐食的な影響を及ぼしているかなりひどい企業とみなされるだろう。」

P. についてどのように分析していますか 2年前に彼を会社から解雇しようとして失敗した?

R. その危機の間には 2 つの力が働いていました。 1つ目は、多くの人がアルトマンは信頼できないと感じ始めていたことだ。しかし 2 つ目は、以前話した準宗教的なイデオロギーです。もしあなたがそれを信じるなら、文明が進む方向を決定している企業のリーダーが操作的で嘘つきであるという事実は問題だということになる。一方、アルトマンは1対1が非常に得意だ。上級経営陣と取締役会は、この信頼性の低いバージョンの Altman にさらされていると感じていましたが、多くの従業員は、彼を先見の明のあるリーダー、OpenAI が必要と予測した資金を調達できる唯一のリーダーであると考え続けており、その結果全員に大きな報酬がもたらされました。さらに、アルトマン氏は解雇される直前に、多くの従業員に数百万ドルの流動性をもたらす買収提案を画策していた。この臨時利益を期待してすでに住宅を購入した人もいると思います。これらすべての要因により、従業員たちはアルトマンを連れ戻すために反乱を起こしました。

P. また、OpenAI が非営利団体からより複雑な組織に移行するプロセスについても説明します。それは最初から見られていたんですか？

R. 私の仮説は、これについて文書を見つけたことはありませんが、その公式のもとでは OpenAI が Google の真の競争相手として存在しなかったため、アルトマンが意図的に非営利団体として設立したということです。アルトマン氏は、ボトルネックは人材であると認識し、給与では Google に勝てなかったため、ミッションで競争することに決めました。

P. 体制変更を決意したのはいつですか？

R. 人材のボトルネックが克服されると、次の課題は資本でした。非営利団体はすでにその目的を果たした。現在、OpenAI は企業の AI 競争で主導的な立場にありますが、トップを維持するにはますます多くの資金が必要です。

P. OpenAI は 10 年後にどうなると思いますか?

R. おそらく2年前の、評判が復活する前のFacebookのようになるのではないかと思います。最近まで人々は、Facebook は自社の利益だけを気にしており、Facebook が構築したテクノロジーは社会に非常に腐食的な影響を与えているかなりひどい会社だと考えていました。それがOpenAIの評判になると思います。わずか5年以内にその地点に到達するかもしれません。