1705982277
2024-01-23 03:48:10
CharGPT のような LLM が私たちを「理解」できるかどうかについて、AI 研究者、言語学者、心理学者の意見がまったく異なるのはなぜですか?
その一部は、「理解する」とは何を意味するのか、またそれをどのように評価するのかという定義の問題として簡単に特徴づけられます。
しかし、もっと根本的には？
ゲイリー・マーカスやヤン・ルカンのようなLLM否定論者は、IMOの科学工学的思考の欠如により、現実の把握さえも忘れてしまいました。
LLM 否定論者は経験主義も理論も得意ではありません。 あるいはエンジニアリングとか。 後で述べるように。
まず、最も重要なことは、LLM は本質的に私たちを理解しており、論理に従うことができるという「私たち」 (私の陣営) の信念は、LLM が実際に私たちを理解しているという経験的証拠によるものでした。
私たちの同時エンジニアリングの考え方 (反復的な改善、以下の (3) を参照) のおかげで、奇妙な幻覚 (知識) や論理的エラーに過度に気を取られることはありませんでした。
いいえ、代わりに、私たちが GPT-4 に何を要求しても、GPT-4 は質問や指示に対する応答によってテストされているように、私たちを理解していたという驚くべき中心的な証拠に焦点を当てました。
GPT が私たちの斬新な入力に誠実に反応していることがわかりました。
それは単に「吐き戻す」だけではありませんでした。
プレミアム LLM にピアレビュー形式のアカデミック ロジック、アブダクティブ推論、創造性テストを行ったときでも、トレーニング データにはあり得ない無意味な条項が含まれていたとしても、LLM はほぼ完璧にロジックに従いました。
私たちは経験的テストを信じ、知識の幻覚や論理エラーは将来のエンジニアリングラウンドで繰り返し排除できることを受け入れたので、その後、統計という言葉が論理を学習するのにどのように役立つのかをじっくりと考えました。
しかし、反対派はそんなことを気にしませんでした。 否定派は、本当に複雑なものを構築しようとした場合、最初のバグや理論設計の課題で立ち往生する可能性があります。
私たちが考えているうちに、人間の脳の生物学的ニューロンは…
#LLM #ChatGPT #否定論者は #種類の科学的推論に失敗しています #ポールパラギー博士 #著 #年 #月