AIは人間よりも人間を理解するようになる

ミハル・コシンスキーはスタンフォード大学の研究心理学者で、タイムリーな話題を洞察する能力に優れています。彼は、自分の仕事が知識を進歩させるだけでなく、コンピューター システムの影響によって引き起こされる潜在的な危険を世界に警告するものであると考えています。彼の最もよく知られたプロジェクトには、Facebook (現在は メタ) は、ユーザーがプラットフォーム上で「いいね」をクリックするたびに、驚くほど深い理解を獲得しました。今、彼は次の研究に移りました。 AIができる驚くべきこと。たとえば、彼はコンピューターが次のようなことができることを示す実験を行った。 人のセクシュアリティを予測する 彼らの顔のデジタル写真を分析することによって。

私はメタについての執筆を通じてコシンスキーを知り、議論するために彼と再会しました。 彼の最新の論文、今週、査読済みの米国科学アカデミー紀要に掲載されました。彼の結論は驚くべきものだ。 OpenAIのような大規模な言語モデルは国境を越え、かつては生身の人間（少なくとも哺乳類）の領域のみと考えられていた実際の思考に類似した技術を使用している、と同氏は主張する。具体的には、OpenAI の GPT-3.5 と GPT-4 をテストして、いわゆる「心の理論」を習得しているかどうかを確認しました。これは、幼少期に発達した、他の人間の思考プロセスを理解する人間の能力です。重要なスキルです。コンピューターシステムが人々の考えを正しく解釈できない場合、その世界理解は不十分になり、多くのことが間違ってしまいます。モデルの場合 する 心の理論を持っているので、彼らは人間の能力に匹敵し、それを超えることに一歩近づいています。コシンスキー氏はLLMをテストし、特にGPT-4では心のような能力の理論が「LLMの言語スキルの向上の意図せぬ副産物として現れた可能性があることが彼の実験で示されたと述べている…それらは、より多くの言語スキルの出現を意味している」強力で社会的に熟練した AI です。」

コシンスキー氏は、AI における自身の研究を、以前に Facebook の「いいね！」に取り組んだことから自然に生まれたものだと考えています。 「私は実際にソーシャル ネットワークを研究していたのではなく、人間を研究していました」と彼は言います。 OpenAI と Google が最新の生成 AI モデルの構築を開始したとき、主に言語を処理するようにモデルをトレーニングしていると考えていたと彼は言います。 「しかし、彼らは実際に人間の心のモデルをトレーニングしました。なぜなら、私の心をモデル化しなければ、私が次にどんな言葉を言うのかを予測することはできないからです。」

コシンスキー氏は、LLM が心の理論を完全に習得したとはまだ主張しないように注意しています。彼の実験では、チャットボットにいくつかの古典的な問題を提示しましたが、そのいくつかは非常にうまく処理されました。しかし、最も洗練されたモデルである GPT-4 でさえ、4 分の 1 の確率で失敗しました。この成功により、GPT-4 は 6 歳児と同等のレベルになったと彼は書いています。フィールドの初期の状態を考慮すると、悪くはありません。 「AIの急速な進歩を観察すると、AIがToMや意識を実現できるのか、いつ実現できるのか、多くの人が疑問に思う」と彼は書いている。放射性の言葉はさておき、それは噛み砕くべきことがたくさんあります。

「これらのモデルで心の理論が自然発生的に現れたとしたら、次に他の能力が現れる可能性があることも示唆しています」と彼は私に言います。 「それらの能力のおかげで、彼らは私たちをより良く教育し、影響を与え、操作することができます。」彼は、人間の考え方を理解する LLM に対して私たちがあまり準備ができていないことを懸念しています。特に彼らが人間よりも人間を理解できるようになった場合はなおさらです。

「私たち人間は人格を模倣するのではなく、 持っている 性格です」と彼は言う。 「だから、私は自分の性格に固執しているんです。こういったもの モデル 人格。いつでも好きな性格になれるという利点があります。」私がコシンスキーに、彼が反社会的人間を描写しているように聞こえると話すと、彼は明るくなりました。 「それを講演で使います！」彼は言います。 「ソシオパスは仮面をかぶることができます。彼らは実際には悲しいわけではありませんが、悲しい人を演じることはできます。」このカメレオンのような力により、AI は優れた詐欺師になる可能性があります。反省ゼロで。