汎用人工知能がディープラーニングの先にある理由

サム・アルトマン氏の最近の雇用問題と、OpenAI の画期的な Q* モデルに関する憶測により、汎用人工知能 (AGI) の可能性とリスクに対する社会の関心が再び高まっています。

AGI は人間と同等の知的タスクを学習し、実行することができました。 AI、特にディープラーニングの急速な進歩により、AGI の出現に対する楽観的な見方と不安がかき立てられています。 OpenAI やイーロン・マスク氏の xAI など、いくつかの企業が AGI の開発を目指しています。 このことから、現在の AI 開発は AGI に向かって進んでいるのだろうか?という疑問が生じます。

おそらくそうではありません。

ディープラーニングの限界

人工ニューラル ネットワークに基づく機械学習 (ML) 手法であるディープ ラーニングは、ChatGPT や現代の AI の多くで使用されています。 さまざまなデータ型を処理できることや、前処理の必要性が軽減されることなどの利点により、人気が高まっています。 ディープラーニングは今後も進歩し、AGI の達成に重要な役割を果たすと多くの人が信じています。

ただし、ディープラーニングには限界があります。 トレーニング データを反映するモデルを作成するには、大規模なデータセットと高価な計算リソースが必要です。 これらのモデルは、現実世界の現象を反映する統計規則を導き出します。 これらのルールは、現在の現実世界のデータに適用されて、応答が生成されます。

したがって、ディープラーニング手法は、予測に重点を置いたロジックに従います。 新しい現象が観察されると、更新されたルールが再導出されます。 これらのルールは自然界の不確実性に対して敏感であるため、AGI の実現にはあまり適していません。 2022年6月のクルーズ船ロボタクシーの事故は、車両が訓練を受けていなかったために新たな状況に遭遇し、確実な判断ができなくなったことが原因である可能性がある。

「もしも」の難問

AGI のモデルである人間は、現実世界の出来事に対して網羅的なルールを作成しません。 人間は通常、リアルタイムで世界を認識し、状況、コンテキスト、意思決定に影響を与える可能性のあるその他の付随的要因を理解するために既存の表現に依存して世界と関わります。 新しい現象ごとにルールを構築するのではなく、既存のルールを再利用し、効果的な意思決定のために必要に応じて変更します。

たとえば、林道をハイキング中に地面に円筒形の物体を発見し、深層学習を使用して次のステップを決定したい場合、円筒形の物体のさまざまな特徴に関する情報を収集し、それを潜在的なものとして分類する必要があります。脅威（ヘビ）か非脅威（ロープ）かを判断し、この分類に基づいて行動します。

逆に、人間は遠くからオブジェクトを評価し始め、情報を継続的に更新し、以前の類似の状況で効果的であることが証明されたアクションの「分布」から導き出された堅牢な決定を選択する可能性があります。 このアプローチは、将来を予測するのではなく、望ましい結果に関して代替アクションを特徴付けることに焦点を当てています。これは、微妙ですが明確な違いです。

AGI を達成するには、予測演繹から帰納的な「もし…だったら?」を強化することに分岐する必要があるかもしれません。 予測が不可能な場合の容量。

深い不確実性の下での意思決定が前進への道でしょうか?

ロバスト意思決定などの深い不確実性の下での意思決定 (DMDU) 手法は、選択に対する AGI 推論を実現するための概念的なフレームワークを提供する可能性があります。 DMDU 手法は、新しいデータに対する継続的な再トレーニングを必要とせずに、将来のさまざまなシナリオにわたって潜在的な代替決定の脆弱性を分析します。 彼らは、所定の結果基準を満たさないアクションに共通する重要な要素を特定することによって決定を評価します。

目標は、堅牢性、つまり多様な将来にわたって良好にパフォーマンスを発揮できる能力を示す意思決定を特定することです。 多くの深層学習アプローチでは、予期せぬ課題（新型コロナウイルス感染症に直面した最適化されたジャストインタイム供給システムなど）に直面した場合に失敗する可能性のある最適化されたソリューションが優先されますが、DMDU 手法では、最適性と引き換えに次の機能を実現できる強力な代替手段が重視されます。多くの環境で許容可能な結果を達成します。 DMDU 手法は、現実世界の不確実性を乗り越えることができる AI を開発するための貴重な概念的フレームワークを提供します。

完全自動運転車 (AV) の開発では、提案された方法論の応用を実証できる可能性があります。 課題は、多様で予測不可能な現実世界の状況をナビゲートし、運転中の人間の意思決定スキルを模倣することにあります。 完全自動運転のためにディープラーニングを活用するために自動車会社が多額の投資を行っているにもかかわらず、これらのモデルは不確実な状況で苦戦することがよくあります。 考えられるすべてのシナリオをモデル化し、失敗を考慮することは非現実的であるため、AV 開発における予期せぬ課題への対処は継続中です。

堅牢な意思決定

考えられる解決策の 1 つは、堅牢な意思決定アプローチを採用することです。 AV センサーはリアルタイム データを収集し、特定の交通シナリオ内での加速、車線変更、ブレーキなどのさまざまな決定の適切性を評価します。

重要な要因がアルゴリズムの暗記的応答に疑問を生じさせる場合、システムは特定の状況における代替決定の脆弱性を評価します。 これにより、大規模なデータセットでの再トレーニングの当面の必要性が軽減され、現実世界の不確実性への適応が促進されます。 このようなパラダイムシフトは、完璧な予測の達成から AV が動作のために行う必要のある限られた決定の評価に焦点を移すことで、AV のパフォーマンスを向上させる可能性があります。

意思決定コンテキストが AGI を進化させる

AI が進化するにつれて、AGI に進むためには、深層学習パラダイムから離れ、意思決定コンテキストの重要性を強調する必要があるかもしれません。 深層学習は多くのアプリケーションで成功していますが、AGI の実現には欠点があります。

DMDU 手法は、現代の AI パラダイムを、現実世界の不確実性を処理できる堅牢な意思決定主導の AI 手法へと方向転換するための最初のフレームワークを提供する可能性があります。

スワプティック・チョードリーは博士号を取得しています。 Pardee RAND 大学院の学生であり、非営利、無党派の RAND Corporation で政策研究員補佐を務めています。

Steven Popper は、ランド研究所の非常勤シニアエコノミストであり、モンテレーテクノロジコの意思決定科学の教授です。