合理的人工知能の哲学的パズル |マサチューセッツ工科大学ニュース

人工システムはどこまで合理的であり得るでしょうか?

新しいMITコース、 6.S044/24.S00 （AIと合理性）は、この質問に答えようとはしていません。代わりに、AI 研究のレンズを通して、この哲学的問題やその他の哲学的問題を探求するよう学生に求めます。次世代の学者にとって、合理性と主体性の概念は、特に人間が自身の認知限界を理解する方法や、何が合理的であるのか、何が合理的でないかについての制約された主観的な見方に影響を受ける場合に、AI の意思決定に不可欠であることが判明する可能性があります。

この探求は、コンピューターサイエンスと哲学の深い関係に根ざしており、両者は合理的な信念を形成し、経験から学び、目標を追求する合理的な決定とは何かを形式化することに長年協力してきました。

「コンピューター サイエンスと哲学はかなり遠いものだと想像されるかもしれませんが、常に交差してきました。哲学の技術的な部分は AI、特に初期の AI と本当に重なっています」と、マサチューセッツ工科大学コンピューター サイエンスおよびエンジニアリングのパナソニック教授であるコース講師のレスリー ケルブリング氏は、コンピューター科学者であり哲学者でもあったアラン チューリングを思い出しながら言います。ケルブリング自身はスタンフォード大学で哲学の学士号を取得していますが、当時コンピューターサイエンスが専攻として利用できなかったことに言及しています。

言語学・哲学科のブライアン・ヘデン教授は、MITシュワルツマン・カレッジ・オブ・コンピューティングで電気工学・コンピュータ科学科（EECS）と兼任し、ケルブリング氏とともに授業を担当しているが、この2つの分野は人々が想像するよりも連携していると指摘し、「違いは重点と視点にある」と付け加えた。

さらなる理論的思考のためのツールg

2025 年秋に初めて提供され、Kaelbling と Hedden は、 コンピューティング教育の共通基盤、 MIT シュワルツマン コンピューティング大学の横断的な取り組みで、複数の学部を結集して新しいコースを開発および指導し、コンピューティングと他の分野を融合した新しいプログラムを開始します。

20 人以上の学生が登録している AI と合理性は、哲学を基礎とした 2 つの Common Ground クラスのうちの 1 つであり、もう 1 つは 6.C40/24.C40 (コンピューティングの倫理)。

『コンピューティングの倫理』では、急速に進歩するテクノロジーが社会に与える影響についての懸念が検討されていますが、『AIと合理性』では、合理的主体の性質、完全に自律的で知的なエージェントの概念、これらのシステムへの信念と欲望の帰属など、いくつかの要素を考慮することによって、議論の余地のある合理性の定義が検討されています。

AI の実装は非常に幅広く、それぞれのユースケースで異なる問題が提起されるため、Kaelbling と Hedden は、コンピューター サイエンスと哲学という 2 つの観点の間で実りある議論と連携を提供できるトピックをブレインストーミングしました。

「機械学習やロボット工学を勉強している学生と仕事をするとき、彼らが少し下がって、自分たちが立てている仮定を検証することが重要です」とケルブリング氏は言います。 「哲学的な観点から物事を考えることは、人々が自分の仕事を実際の状況にどのように位置づけるかをバックアップし、よりよく理解するのに役立ちます。」

両講師とも、これは合理的なエージェントを設計することが何を意味するかという質問に具体的な答えを提供するコースではないことを強調しています。

ヘデン教授は、「このコースは基礎を築くものだと考えています。私たちは彼らに、学んで暗記してから応用するための一連の教義を与えているわけではありません。私たちは、研究、産業界、政府のいずれの分野であっても、彼らが選択したキャリアに進む際に、物事を批判的に考えるためのツールを提供しているのです。」と述べています。

AI の急速な進歩は、学術界にも新たな課題をもたらしています。 5 年後に学生が知っておく必要があることを予測することは、ケルブリング氏にとって不可能な仕事であると考えています。 「私たちがしなければならないのは、心の習慣や考え方など、より高いレベルでのツールを彼らに提供することです。それによって、私たちが現時点ではまったく予想できないことに彼らがアプローチできるようになります」と彼女は言います。

専門分野を融合し、前提条件に疑問を投げかける

これまでのところ、このクラスには、コンピューティングにしっかりと基礎を置いている学生から、AI が自分の研究分野とどのように交差するかを探ることに興味がある学生まで、幅広い分野の学生が集まっています。

学期中の読書とディスカッションを通して、学生たちは合理性のさまざまな定義と、自分の分野の仮定にどのように抵抗するかについて取り組みました。

このコースで彼女が驚いたことについて、EECS の 4 年生であるアマンダ・パレデス・リオブーは、「私たちは、数学と論理が黄金の基準、あるいは真実であると教えられているようなものです。この授業は、人間がこれらの数学的および論理的枠組みと矛盾して行動するというさまざまな例を示してくれました。私たちは、不合理なのは人間なのか、不合理なのは私たちが設計した機械学習システムなのか、それとも数学と論理そのものなのか、という虫の缶詰を丸ごと解き明かしました。」

脳認知科学科の博士課程の学生、ジュニア・オコロアフォーさんは、授業の課題と、分野によって合理的エージェントの定義がどのように変わるかについて感謝していました。 「各分野の合理性が何を意味するのかを正式な枠組みで表現することで、分野間でどの前提を共有すべきか、どの前提が異なっていたのかが正確に明確になります。」

すべての Common Ground の取り組みと同様、コースの共同指導、協力構造により、学生と講師はリアルタイムでさまざまな視点を聞く機会が得られました。

パレデス・リオブーにとって、これは3回目のコモングラウンドコースです。彼女は、「私は学際的な側面がとても気に入っています。分野を横断する必要があるという事実から、理論と応用がうまくミックスされていると常に感じています。」と述べています。

オコロアフォー氏によると、ケルブリング氏とヘデン氏は分野間の明らかな相乗効果を実証し、まるで授業に参加して一緒に学んでいるように感じたと述べた。コンピューター サイエンスと哲学をどのように利用して相互に情報を伝達できるかによって、彼はそれらの共通点と、交差する問題に対する貴重な視点を理解することができました。

さらに彼は、「哲学には人を驚かせる方法もあります」と付け加えた。