[뉴페@스프] 「人類のための人工知能」誰が、どうするのか？

[뉴페@스프] 「人類のための人工知能」誰が、どうするのか？

タグ : #AI、#EA、#効果的な利他主義、#グレック・ブロックマン、#企業、#マイクロソフト、#ミッション、#非営利団体、#サティア・ナデラ、#サムアルトマン、#オープンAI、#人工知能、#資本主義、#チョ・ギョンヒョン、#株式会社、#株主、#効果的な利他主義

2024年1月20日| By: イングプー | SBSプレミアム | ノーコメント

*ニュースペパーミントはSBSのコンテンツプラットフォームスブスプレミアム（スープ）にニューヨークタイムズコラムを一本ずつ選んで翻訳し、文に関する解説を書いています。 その中で私たちが書いた解説をスープと時差を置いて紹介します。 スブスプレミアムではニュースペパーミントの解説とともにコラム翻訳も読んでいただけます。

**今日紹介する記事は 11月29日スープに書いた記事です。

***今回の解説は、ニューヨーク大学のコンピュータ科学とチョ・ギョンヒョン教授がアメリカーノでまとめたインタビューをもとに書きました。

去る17日から22日までの間、オープンAIのCEOサム・アルトマンが突然解雇されて復帰する過程は一日一日、毎瞬間がまるで一本のドラマのようでした。 サム・アルトマンはすでに世界的な有名人であり、もしアルトマンをよく知らない人でも彼が（経営を）導くオープンAIが作ったチャットGPTに関してはおそらく聞いた人が多いから、全世界の注目がオープンAIに集まったのも当然しました。 実際、オープンAIとチャットGPTは、現在技術競争の最先端といえる人工知能技術を象徴する企業やサービスであっても過言ではありません。

サム・アルトマンは大多数の従業員の厚い信頼を受ける、ひいては憧れの対象といえるCEOでした。 彼を突然押し下げた理事会が決定を戻すのにも95％に迫るオープンAI大多数の職員の圧迫が大きく作用しました。 彼らはサムアルトだけを復帰させなければ、私たちもアルト湾に沿ってオープンAIを去るという連判長に署名しました。

一体オープンAI理事会はどのように遠いCEOを一日中に解雇できたのでしょうか。 最も大きな問題は、アルトマンがオープンAIがする営利事業部門だけをリードしたことです。 オープンAI全体を導いたのはCEOアルトだけではなく、アルトマンが属するオープンAI全体理事会でした。 取締役会は、2015年に設立した際に設立したオープンAIの使命を果たすことが責任の全部です。 アルトマンも（解任される前）理事会の一員でしたが、6人のうちの1人だっただけで、多数が決議すれば今回のようにいくらでもCEO席から追い出せる仕組みでした。 起きない法的な事でしたが、同時に起きてはいけない法もなかったことをオープンAI理事会がギアが起こしたのです。

ニューヨークタイムズで自分の名前をかけたポッドキャストを進行するコラムニスト・エズラ・クラインも今回の事態を復記し、意味を持つコラムを書いた。 日誌別に何が起こったのかを扱った詳細な分析は、私がNYUチョ・ギョンヒョン教授と話した アメリカーノを参照してください。

専門翻訳：オープンAI事態が残した不安な教訓

今日は今回の事態に関連して考えてみることができる点の2つをまとめてみましょう。 まず、アルトだけを止めて立てようとしていた既存の取締役のうち一部をはじめ、シリコンバレーの有名人の中で少ない者が信じていると知られている効果的な利他主義（Effective Altruism、EA）の話、そして人工知能技術のように人類全体に大きな影響を及ぼす技術の開発と事業化、それに伴う社会的、道徳的責任を個々の企業に消去するのが正しいのか、それとも政府が出るべきか、その責任素材に関する話です。
効果的な利他主義と「AI安全性」

まず、効果的な利他主義から見てみましょうか？ 今回の事態で効果的な利他主義は「AI安全性」という名で登場します。 既存のオープンAIの取締役6人のうち、サム・アルトマンとグレック・ブロックマンを除く取締役4人が意志を合わせて二人を電撃解雇したが、特に一部の取締役は、アルトマンが人工知能技術がもたらす危険に対する安全装置を全く考えずに技術開発だけぶら下げるのに不満を抱いていたということです。 公的に明らかになった内容はありませんが、いくつかの記事がAIの安全性を優先に置こうとする理事たちとサム・アルトマンの間に摩擦があったと伝えています。

効果的な利他主義他の人を助けるための最善の方法を見つけ、それを実践に移す一連の運動と戦略を意味します。 世界中で最も緊急の問題を解決する最善の解決策を探す研究とともに、研究結果に基づいて良いことをして世界に実質的な助けを与えるコミュニティを志向すると紹介されています。 世の中に資源は限られているので、他人を助ける良いことに、機王であれば資源を無駄にせず、目標とすることができれば当然良いでしょう。 趣旨自体は問題にすることが全くない運動です。 むしろ奨励すべきことです。

ところが、問題は、効果的な利他主義を追い求めるこれらのうち、一部が懸念するシナリオが現実主義者の認識とあまりに離れているときに起こります。 効果的な利他主義者が最も懸念するのは、この世にお互いに助け合う人類が滅びる恐ろしいシナリオですが、しばしばその考えばかりで、非常に希薄な確率で起きる災害を防ぐために相当な注意を払って多くの資源を投入しなければならないという結論に至ります。 どんな問題でも牛を失い、外洋間を治すよりも予防する方が良いでしょうが、見てみると、このような主張が不要なのに資源を浪費する過度な主張と感じることができます。 そうしてみると摩擦が生じます。

人工知能技術は人類に今まで味わえない便利をもたらす強力な技術ですが、同時に間違って使われると災害が来ることもあります。 まさにこの地点で競争企業と激しい競争を繰り広げ、技術開発に拍車をかけなければならないサム・アルトマンと、技術開発も重要だが安全にもっと注意を払わなければならないという理事会の考えが分かれたようです。 ただし、この問題はエズラクラインも指摘したように「判断の領域」です。 正しいことを明確に分けるのが難しいという意味です。 どんな選択をしてこれを実践に移すと、他の選択肢を選んだときに何が起こったのか分からなくなります。 例えば、映画「ターミネーター」で描いたディストピアのように、機械が人間を殺害する災害を防ぐために、人間が十分な安全装置を設けておくと仮定しましょう。 そして幸いなことにそういうことが起こらなければ、この時、私たちは機械文明によって絶滅しなかったのが私たちが気にして作った安全装置のおかげなのか、どうせ起きる可能性が非常に小さいことなので、無駄なのにお金を無駄にしたのか永遠にわかりません。

理事会が極端な効果的な利他主義者であり、アルトマンは効果的な利他主義に何の関心もない冷血した資本主義者でもありません。 むしろサムアルトマンも効果的な利他主義に関心が多い方です。 2015年に非営利団体として出発したオープンAIの使命に効果的な利他主義が相当部分溶けており、アルトマンも厳しいオープンAIの取締役だったことを忘れてはいけません。 ただし、アルトマン（とブロックマン）は技術を開発し、製品を作って売る事業を直接担当する人物だから、現実的な制約をもう少し気にしなければなりませんでした。 非営利団体傘下の営利企業という独特の構造を維持しながら、オープンAIをここまで引き出してきた主役であるだけに、アルトマンは今後も引き続き発展していけると信じていたはずです。 しかし今回の解任を主導した理事の考えは違ったんです。

効果的な利他主義に関して言及すべき人物がもう一つあります。 今回の仕事と直接的な関係はありませんが、世間の注目を集めたもう一つのサム、暗号通貨取引所FTXの創設者サムバンクマンフリードです。 バンクマンフリードが犯した稀代の詐欺は、効果的な利他主義が極めて誤って適用された例と言えます。

バンクマンフリードは、事業を通じて稼いだ膨大なお金を数多くの慈善事業と意味のあることに快戴しました。 自分は他の人よりスマートなので、みんなに有益なことをする奇妙な墓案も自分だけ知っているという錯覚に陥っていました。 実は暗号通貨取引所に顧客が預けたお金を勝手に差し引いて他の債務を返済したり、役に立つ詐欺師に過ぎなかったが、寄付の約束もみんな虚황なものだったが、バンクマンフリードは 法廷でも それでも、自分が善意を持ってしたことだけに処罰されるべき罪ではないと主張しました。 自分の考えには欠点があり得ないという錯覚から抜け出せないほど、視野が狭くなったことを垣間見ることができます。

シリコンバレーは、多くの失敗と挑戦が日常的なエコシステムです。 失敗を乗り越えて再び起きて挑戦し、ついに革新を成し遂げたストーリーがいっぱいです。 失敗に屈することなく再び起きて挑戦できるように資本と支援システムが整った所がシリコンバレーです。 何でも数値化してこれを極大化することを成功とみなし、それをうまくやってくれる人が能力者として扱われるところです。 そのため、シリコンバレーには効果的な利他主義者が社会の他の場所よりも多いのです。 私たちが知っている有名人の中でもそうです。 代表的に浮かぶ人物 イロン・ムスクジョー。

人工知能技術の責任は誰になるべきですか？

効果的な利他主義がこの世界のすべての問題にとって必ずしも正しい解決策になることができない最大の理由は、他人を助けることがどれだけ効果的であるかを測定し判断する基準がないからです。 私たちは、しばしば効果的な利他主義の哲学的基盤といえる公理主義に関しても、みんながまんべんなく幸せになるように、公平によく暮らせるように世界が進むのに力を保っていると思います。 しかし、実際にはそうではありません。 効果的な利他主義は「均等」や「公平に」に興味がありません。 数値をつけることができる指標を見つけてそれを最大化することに集中してみると問題が緩和される可能性がありますが、根本的な解決策でない場合には結局全く効果的ではない無駄になることもあります。 靴ブランド タムス（TOMS）のペアを買うと、ペアを寄付するキャンペーンがそうだったし、アフリカの国にマラリアを退治せよ。 蚊帳だけを過ごすこと同様です。

では、強力な技術になる人工知能技術は誰が責任を持って監督すべきでしょうか？ 企業にその責任まですべて消すのは望ましい解決策になりにくいです。 どうすれば今回のサム・アルトマン解任と復帰事態が経営上の目標と関係ないことをまず課題にしようとした陣営の完敗と解釈することもできます。 株主利益を最大化するのが地上課題である営利目的の公開企業だったとしたら、人類のための技術を開発する使命に反するという理由で、CEOを解任するのは当初、夢も見られなかったでしょう。 非営利団体が営利事業を行う子会社を管轄していたオープンAIの独特な支配構造は、今回のことをきっかけに消えることになりました。 ニューヨークタイムズのテク専門記者ケビン・ルースは今回の事態をまとめた 記事のタイトルを次のように選んだ

「今、AIは資本主義者の手に入った」

企業は市場原理に応じて競争するように置き、技術が世の中に及ぼす影響を必要に応じて統制し監督することは政府と市民社会が引き受けなければなりません。 企業もこのような分業を受け入れなければなりません。 実際、企業と政府が水と油のように似合うのは難しいと思うかもしれませんが、私たちが今使っている多くの技術がどのように開発されたのかを考えてみると、政府が主導的に作った技術を企業が引き継ぎ、製品とサービスにしたことが多いです。 。 インターネットも、携帯電話も、電気自動車もすべて同じです。

インターネットの誕生に決定的な役割を果たした 高等国防研究所（DARPA）携帯電話の開発に決定的な研究を行った ベル研究所(Bell Labs)同様に人工知能技術を導く源泉技術は、民間企業よりも政府が出演した機関が引き受けて行うのが良いかもしれません。 少なくともそれからクラインが説明した「電源を切ることができない機械」を心配する必要はないでしょうから。 しかし、一度これまで人工知能技術競争はシリコンバレーの大企業が主導しています。 技術開発に必要な安全装置をつけることは、オープンAI事態以前と比べると今はるかに難しくなっているかもしれません。