世界

テクノロジーが解決するそれぞれに新しい問題を引き起こすのはなぜですか？ |マーク・ブキャナン

イラスト：Risto Avramovski/The Guardian今日、いわゆる技術最適主義者は、シリコンバレーの億万長者の階級を埋めています。彼らは、技術の進歩を急速に追求することによってもたらされる人類の明るい未来を宣言しています。もちろん、これらの技術最適主義者は、テクノロジーと科学が間違いなく人類の最大の資産の間ではなく、将来への希望であるということです。しかし、テクノロジーが他の人を解決しても常に新しい問題を生み出すことも事実であるため、彼らは行き過ぎます。これは科学を通して学んだことでもあります。その結果、技術に対する素朴な信仰は、短期的な話題を繰り返し達成しながら、長期コストも発生するレシピです。テクノロジーを最大限に活用するには、より慎重でバランスの取れたアプローチが必要です。多くのことを正しくしていても、なぜテクノロジーが頻繁にうまくいかないのですか？人類学者のサンダー・ファン・デル・ルーウェは、約10年前に答えをスケッチしましたが、それは自然の法則のようなもののようです。私たちが問題に直面するとき、私たちはそれについて考え、世界の一部がどのように機能するかという概念モデルを構築します。それを使用して、問題の解決策を提案します。その理解に基づいて、私たちは行動し、私たちが考え出すテクノロジーはしばしば問題を解決します。しかし、通常、私たちのモデルは、もちろん、実際には世界の完全なモデルではなかったことがわかります。私たちのシンプルなモデルはいくつかのことを残しました。当然のことながら、現実の世界で活動している私たちのテクノロジーは、私たちが予見していなかった世界に影響を与えていることがわかりました。単純なモデルは非常に強力で、魅惑的で便利だからです。また、単純なモデルは詳細を除外して、私たちの行動の完全な結果を常に誤解するようにします。私たちはより多くの人々を養うためにより良い釣り技術を発明し、魚の個体数を一掃したことがわかります。私たちは、パンを調理するための素晴らしいノンスティック表面を作成し、その後、これらの材料の化学物質が健康上の問題を引き起こし、環境に浸出し、どこにでも広がっていることを発見します。私たちは、海洋と私たち自身の体の微粒子として最終的に終わる非常に慣れたプラスチックを作ります。これは、大勝利とともにテクノロジーの物語でもあります。私たちはこれを理解しているため、問題を予測することは技術開発そのものの一部であるべきです。私たちの無知についての明確な目の見解は、テクノロジーを追求しないことを意味するのではなく、完璧な先見性に近いものを期待することなく、先見性を採用することで注意と知恵を助言します。また、開発を規制し、新たな問題を是正するための時間を与えるための実際的な措置を講じることを意味しますが、少なくとも最悪の結果を回避します。人工知能またはAIの研究開発に対する現在のアプローチは、無謀なアプローチの例を提供します。現在、世界最大のテクノロジー企業のほぼが、このテクノロジーの市場を制御するために彼ら自身の間で戦っており、できるだけ早くモデルを次々と展開しています。神経科学者のゲイリー・マーカスが主張したように、この短期的な支配のための競争には明らかなコストが1つあります。それは、すべての人を新しいものと未テストのテクノロジーの未知のリスクにさらします。また、それほど明白なコストはありません。競争のピッチ緊急事態は、事実上すべての利用可能なリソースが最近最も有望な分野、現在いわゆる大規模な大規模モデルの研究に投資されることを意味します。これは、最終的に真のAIを達成するために最終的により重要であることが判明する可能性のあるコンピューターサイエンスの他の分野から離れてリソースを貯めます。幸いなことに、すべてのシリコンバレーのリーダーが、制御されていない技術加速に対する技術最適主義の需要を受け入れるわけではありません。 AI企業人類のCEOであるDario Amodeiは、AIの研究が人間の幸福の信じられないほどの改善につながる可能性があるという彼の見解を表明する最近のエッセイで明らかにしたため、彼らの楽観主義を確かに共有しています。明らかに楽観的なシナリオを探求して、彼は数十年で本質的にすべての病気を排除し、国家全体に有益な経済成長を広め、基本的な社会的重要性の問題に関するコンセンサスを形成する人間の集団能力を大いに改善するかもしれないと示唆しています。しかし、アモデイはまた、物事が間違っている余地が十分にあることを受け入れています。AIはこれらのポジティブなものを達成できず、代わりに不平等を根本的に悪化させるか、監視とコントロールの前例のない独裁者を提供することができます。何が起こるかは、私たちが行う選択に依存します。そして、これで、彼は、私たちのガイドとして希望を持って将来に競うのではなく、リスクと規制に焦点を合わせることは正しい方法でなければならないことを示唆しています。人々は、AIがいつかどれほど良いかを過小評価しているだけでなく、彼は考えているだけでなく、どのように リスクは悪いかもしれません。そして、私たちが尊重する必要がある自然な非対称性があります。「AIテクノロジーの基本的な開発とその利点の多く（すべてではない）は、強力な市場力の結果として、彼が見ているように、避けられないように思われます」。 「一方、リスクは事前に決められておらず、私たちの行動は彼らの可能性を大きく変える可能性があります。」ウォール街やシリコンバレーなどの文化では、長期的な利益が何であれ、機会とリスクのバランスをとり、それによってより持続可能な利益を追求する他の人々の間に本質的な緊張があります。そのような反対意見に対する賛否両論では、自然な不均衡があります。魅力的で明らかな潜在的な利益は、未知の未来に設定されたより困難で定義されていないリスクと比較検討されているからです。それは公正な比較ではありません。特に、将来について、さらには近い将来であっても、壊滅的に大きな誤りを犯すのが非常に簡単な場合。彼のテクノオプチミストのマニフェストでは、起業家のマークアンドリーセンは、地球上の誰もが先進国の人々にとって典型的なものよりもすぐに1,000倍以上のエネルギーを使用できるように、クリーンエネルギーリソースを非常に迅速に増やすことができるという夢を断言します。人々が達成できることを考えてください！素晴らしいですね。ちょっとした物理学の考えは、それほど多くのエネルギーを使用すると、惑星が今日経験しているよりも約30倍速く惑星の温暖化を引き起こすことを示しています。結局のところ、それほど良くありません。もちろん、私たちの複雑な世界では、原因と結果が複雑であるため、誰もがこのような間違いを犯すかもしれません。テクノロジーはトリッキーであり、何が起こるかは明らかではありません。それがまさにそうです - そして、なぜ私たちがリスクについてもっと慎重に考え、より慎重なアプローチに従う必要があるのか。 #テクノロジーが解決するそれぞれに新しい問題を引き起こすのはなぜですか #マークブキャナン