意見: OpenAI のドラマは、人工知能における新たな恐ろしい時代を告げる

サム・アルトマンの解任と急速な 復帰 ChatGPT の作成者である OpenAI の CEO として、AI の未来は他のすべてを犠牲にしてスピードと利益を重視する人々の手にしっかりと握られていると認めています。 このエリートたちは今後、テクノロジーに対する彼らのビジョンを残りの人類に押し付けることになるでしょう。 私たちのほとんどはその結果を享受できないでしょう。

OpenAI の創設者らは、全人類に利益をもたらすか、少なくとも人類を潜在的な危害から守る慈善団体を設立していると主張しました。 OpenAI は表向きは非営利団体であり、学者や専門家で構成される小規模な取締役会があり、注目すべきことに投資家が含まれていませんでした。 取締役会がアルトマン氏を解任した11月17日に実際に何が起こったのか、私たちは決して知ることはできないかもしれないが、 最も可能性の高い解釈 それは、この理事会のメンバーが、アルトマンの商業重視と、生成人工知能の新しい強力なモデルの開発への突進的な取り組みに悩まされていたということです。

デジタルテクノロジーはすでに雇用、賃金、民主主義に多大なダメージを与えているため、シリコンバレーにはガードレールを心配する人々がまだいると思うと心強い。 たとえば、この分野は Facebook やソーシャル メディアをもたらしました。 「エンゲージメント」とより多くのデジタル広告を販売するという名目で、世界中で憎悪の炎を煽るために利用されてきた。

アルトマン氏は、同社への復帰の条件として、OpenAI取締役会に辞任を強要した。 元Salesforce共同最高経営責任者（CEO）のブレット・テイラー氏が委員長を務める新取締役会は、結果がどうであれ、OpenAIができるだけ早くスケールアップすることに同情的になる可能性が高い。 この無謀さは、ベンチャーキャピタルによって刺激された利益動機によって動かされており、たとえそれが巨額の経済的損失と莫大な社会的コストを伴うとしても、最も多くの資金が最も急速に成長する製品やサービスに流れ込みます。

破壊と制御されない成長はテクノロジー業界にとって宗教となっており、アルトマン氏はテクノロジー業界で最も献身的な大祭司の一人だ。 しかし、持続不可能な成長率と多額の損失は、伝統的な資本主義市場システムの論理では支えられていません。 ベンチャー キャピタルがこの運営方法を生み出しましたが、OpenAI には Microsoft が存在するため、従来の VC は必要ありません。 すでに100億ドルを投入 会社に。 Microsoft のトップ幹部は、アルトマン危機の間も自分たちの目標に集中し続けました。つまり、人材を雇用し、無制限に使えるお金を約束し、ペダルを踏むということです。

さらに悪いことに、社会的責任や人々に何が起こるかをほとんど気にしないシリコンバレーの支配的なビジョンによって、スピードの至上命題がさらに加速されています。

この世界観の非公式のスポークスマンは、伝説的なベンチャーキャピタリストであり大物であるマーク・アンドリーセンです。 アルトマン チアリーダー。 10月、アンドリーセンは自身の『テクノオプティミストのマニフェスト」には、「孤立の問題があったので、インターネットを発明した」などの奇妙な発言が含まれていました。 「私たちは貧困の問題を抱えているので、豊かさを生み出すテクノロジーを発明します。」 そしておそらく、テクノロジーの傲慢さを最も純粋に宣言したものでしょう。「現実世界の問題を与えてください。そうすれば、それを解決するテクノロジーを発明できます。」

明らかにアンドリーセン氏は、なぜサンフランシスコのベイエリアにこれほど多くのホームレスがいるのか、なぜ十代の若者の間で精神衛生上の危機が起きているのか、なぜなのかについて考えていない。 ミャンマーが燃えている、あるいは、自由に使えるあらゆるテクノロジーにもかかわらず、なぜ米国が現代史の中で最も不平等で極度に分極化した社会の一つになったのか。 確かに、これらの問題は、テクノロジー部門によって引き起こされたものではないにしても、悪化させられたと主張することができます。

アルトマンは以前、スタートアップアクセラレーターである Y Combinator を設立しました。 応募者に尋ねる、「そのときのことを教えてください。」 [applicant name]、あなたの利益のために、（コンピュータ以外の）システムをハッキングすることに最も成功したのです。」 シリコンバレーのリーダーは次のようなことを言うのが好きです。速すぎて物を壊す」（ある時点での Facebook 社内のモットー）、あるいは、シーラ・フランケルとセシリア・カンが Facebook に関する本の中で述べているように、「醜い真実”: 「くそー、発送してよ。」

ワシントン DC では、規制や賢明なガードレールの匂いを嗅ぐと、ハイテク企業のトップが脳卒中を起こします。 ハイテク仲間たちは、自分たちがなくてはならない人物であるという本格的なリバタリアンのファンタジーを受け入れている。

で “これからの物事の形」 1930 年代初頭に出版された HG ウェルズは、空爆作戦により文明が破壊されそうになったディストピア的な近未来を想像しました。 しかし、20年以上にわたる惨事の後、ウェルズは、航空技術を制御する新たな世界的エリートが出現し、世界平和をもたらすだろうと想像した。

テクノロジーの無制限かつ無原則な発展によってもたらされる危険性について、ウェルズの指摘は正しかった。 しかし、世界の未来の鍵を握るエリート独裁政権を描いた彼のSF作品は、ヨーロッパファシズムの全盛期と同じように今日でも不穏なものだ。

ダロン・アセモグル氏とサイモン・ジョンソン氏はマサチューセッツ工科大学の教授であり、「」の共著者です。力と進歩: テクノロジーと繁栄をめぐる私たちの千年にわたる闘い」