マクシミリアン・ケイシー、経済学者：「AI は私たちが創造した神ではなく、私たちが今従わなければならないのです」 |テクノロジー

に マクシミリアン・ケイシー （ウィーン、43 歳）人工知能に関する本当に重要かつ恐ろしい問題は、誰が人工知能を制御しているのかということです。オックスフォード大学の経済学教授であるこの数学者であり、機械学習技術の専門家であるこの著書は、 予測の手段: AI が実際にどのように機能し、誰が利益を得るのか (予測の手段: AI が実際にどのように機能し、誰が利益を得るのか)、シカゴ大学編集、AI の根本的な矛盾について彼が主張する本 それらは人間と機械の間の闘争から生じるものではありませんただし、このテクノロジーを管理する人々と他の人々の間では。

ケイシーは、それを養う基本的な資源を分析し、カール・マルクスの言葉を借りてそれを「予測手段」と呼んでいます。データ、計算能力、労働力、エネルギーの4つです。それらを制御する者は、あたかもサウロンの指輪であるかのように、テクノロジーを制御することになります。このようにして、彼はそれを止めることのできない全能の力のオーラを取り除き、それを正しい次元に置きます。つまり、人間の決定によって形成されるテクノロジーであり、その将来はその並外れた力によって決定されるのではなく、 興味 それを管理する所有者のもの。

聞く。 市場はここ数週間、非常に不安定な状況が続いています。 ソフトウェア周囲にはある種の多幸感がある 人間的AIバブルの話もある中…何が起こっているのでしょうか？

答え。 この本の主張の 1 つは、悲観主義者でさえそうではないということです (運命の人） 愛好家もいない（ブースター) 彼らは正しい。すべてが大惨事になり、AI が私たち全員を滅ぼすというわけではありません。あるいはその逆でもあります。それは、最終的には何かを最適化することを目的としたこの非常に多用途のテクノロジーを私たちが何をするかに大きく依存します。重要な問題は、何を最適化しているのか、そして何を最適化するかを誰が決定するのかということです。未来は開かれています。

バブルですか？いわゆる「スケーリングの法則」については、多くの研究が行われてきました。これは、より多くのデータ、より大きなコンピューティング能力、より大きなモデルがあれば機械学習のパフォーマンスが向上するという考えです。 最近のAIの台頭 約5年間非常にうまく機能していましたが、明らかに限界に達しました。トレーニング データが増えず、それでも計算能力が向上するのであれば、モデルを大きくしても意味がありません。昨年は今年と同額の約3500億ユーロをデータセンターに投資したが、改善される可能性は低い。新しいパラダイム、用途、経済に組み込む方法が出現しないわけではありませんが、何か違うことをしない限り、それらの根本的な質は向上しないと思います。

P. ワシントン大学の専門家エミリー・ベンダー氏とDAIR研究所のアレックス・ハンナ氏が次のように発表した。 AI詐欺ある意味、彼と対話する本。彼らはこう始めます。「正直に言います。AI は特定の人々の私腹を肥やすために設計された罠であり、詐欺であり、欺瞞です。」どう思いますか？

R. 私たちは、これらのテクノロジーの影響を受ける人々が、何を最適化するように設計されているかについて発言権を持つ制度を創設する必要があります。私は確かに、政府の部門からの誇大宣伝を信じるべきではないことに同意します。 マーケティングしかし、それはすべてのテクノロジーが詐欺だという意味ではありません。達成されたことは非常に驚くべきことです。 AI が私たち全員を殺すか自動化するという最も否定的な言説は、AI の責任者とほぼ同じ議論を使用しています。 マーケティングしかし、少し変化があります。知性については一次元の概念があり、ひとたび機械が人間の能力に達すると、機械は自らを完成させ、人間は制御を失うだろうというこの考えは、古代の物語とほぼ同じです。 ブースター目的が違うだけで、私たち全員を殺す可能性があるという小さなニュアンスを込めて。どちらの仮定も間違っています。これらはかなり古い技術です。過去 20 年間で変化したのは規模だけであり、インターネット データと巨大なデータ センターによって巨大なレベルにまで拡大しました。これは目覚ましい進歩をもたらしましたが、私たちが今従わなければならない神を創造したわけではありません。

P. 2017 年、Google は機械学習アルゴリズムの最適化に成功し、直接最適化されていなかったことを実行できるようになり、何らかの形でこの使命から「解放」されました。彼らを制御するには遅すぎませんか？

R. 彼らは、言語モデリングのための新しいアーキテクチャ、いわゆる「変革的アーキテクチャ」を作成しました。これは実際には非常に便利であることが判明しましたが、概念的には、インターネット上の次の単語を正しく予測する確率を最大化する古典的な予測問題である最適化問題はまったく変わりませんでした。

P. 彼は、AI があまりにも普及しすぎて、国民にある種の諦めの感覚を生み出していると述べています…

R. AIは確かに制御できる。いくつかの手順を踏む必要があります。 1つ目は、それを分かりやすく理解することです。知性、意識、一般知性、超知性について話すと、会話は非常に混乱します…しかし、学術書のようにそれを調べると、それははるかに日常的になります。つまり、最適化です。最大化される報酬や損失の種類など、測定可能な目標がいくつかあります。オンライン広告の販売からどれだけの収入が得られるか。あなたのウェブサイトに滞在している人の数。何人が国外追放されるかなど、より陰湿な申請（米国のICE） アルゴリズムを使用します パトロールを派遣し、誰を投獄するかを決定するため）。重要なことは、誰かが選んだ数値目標を最大化するために、誰かが選んだ行動を最適化しているということです。それは不可解な超自然的な力ではありません。究極の疑問は、ある AI システムの影響を受ける人々がその目的に対して拘束力を持つ制度をどのように構築するかということです。これには、プライバシー、市場および競争法、技術基準だけでなく、民主的な制度の創設も必要です。

P. 例えば？

R. 私が好きな方法の 1 つは抽選です。その考え方は、利害関係者 (たとえば、プラットフォームのユーザー) が、人気のある陪審員など、統計的に代表的なグループをランダムに選択し、会合し、リソース、時間、専門家の意見を得ることで、AI システムがどのように機能するかを理解し、どの目標を最大化するかを決定するというものです。

P. それはより良い市民になることを意味しますが、データやコンピューティング能力など、AI を促進する重要なリソースはほとんど手に渡っていません。誰が彼らをコントロールし、どのようにして権力を維持しているのでしょうか?

R. それらが AI を生み出すために必要な手段であると認めるなら、問題は次のとおりです。 誰がそれらをコントロールするのかそれが何に使われるかは彼らが決めるからです。おそらく最も基本的なものはデータであり、その管理がどこに集中されているかについては多くの疑問があります。言語モデルやその他の生成 AI モデルのトレーニング データは、プログラマー、ジャーナリスト、アーティスト、作家、ミュージシャンなどの多かれ少なかれパブリック ドメインの知的生産物から取得されます。その後、彼らはそれを統合して私たちに売り戻します。これは、制御の大規模な再分配を意味します。本質的に、多くの人々の知的生産は少数の企業の所有物になります。

しかし、別のタイプの超越的データは、個人レベルで、私たちを人間として描写するものです。私たちが買うもの、消費するコンテンツ、政治的意見、友人など、私たちのデジタル生活とその外側を特徴付けるすべてのものです。これらは、AI システムが個人レベルで行う決定にとって非常に重要です。たとえば、私たちが提供する給与、どのような仕事に就くか、オンライン製品にいくら支払うか、受け取る政治情報、いつ警察が来るかなどです…しかし、それらは AI システムのトレーニングにも使用されるため、ある意味で私と同じような他のすべての人々にとっても重要になります。

P. では、個人のプライバシー権はどうなるのでしょうか？

R. 彼らは私たちを保護するつもりはない、なぜなら彼らは私が製品などの小さな利益を得た場合に私のデータを共有しても構わないようにシステムを設計できるからです。使用方法によっては、その後の結果は誰にとっても壊滅的なものになるか、少なくとも問題となる可能性があります。これは、データ ガバナンスをより連携的にするための基本的な方法です。私たちは、どのようなデータを何のために収集するかを共同で決定する必要があります。

P. 一部の国や特定のイデオロギーの下では、AI の民主的管理を提案するだけで、過激派とみなされます。

R. 民主主義とは何を意味するのかという、より広範な疑問があります。抽象的な意味では、それは私たちの運命について集団で決定することになるでしょう。私たちは皆、お互いに依存しているので、個人でそれを行うことはできません。ソーシャルネットワークを例に挙げると、そうです。 マーク・ザッカーバーグ o イーロン・マスク 彼らには最後の決定権があり、広告収入、政治的目標、世界観を最大化することに集中するでしょう…そしてそれは、民主主義のプロセスや青少年の精神的健康に見られるように、あらゆる種類の影響を及ぼします。私の理解では、人々、たとえばプラットフォームのユーザーがそこで何が起こるかを決定できるということです。生徒を学校間でどのように配分するかについては地元の教育委員会が、パトロールをどこに派遣するかについては地元の警察が決定します…

P. 彼は楽観的だ。

R. 私をより楽観的にしているのは、ビッグテックの集団的支配が一夜にして起こる必要はないということです。それは次から次へとユースケースとなる可能性があり、地方レベル、国レベル、またはその他のレベルで法制定される可能性があります。これらの企業が米国や中国に拠点を置いているからといって、スペインでは「ソーシャル メディア アルゴリズムにこれを実行してほしい」と言えないわけではありません。民主主義の病理に対する答えは、民主主義ではなく、より真の民主主義と、人々が影響を受ける場所にあります。