1772030233
2026-02-25 14:24:00
ここ数週間、クロードの宣伝活動でインタビューに応じるアンスロピック社の幹部が増えるにつれ、一つのことがますます明らかになってきた。それは、アンスロピック社はクロードが何らかの方法、形、形で生きていると考えているようだということだ。
「生きている」というのは明らかに意味深な言葉です。より頻繁に使用される言葉は「意識的」です。アンスロピック社にクロードが生きていると考えているかと尋ねると、同社はきっぱりと否定するだろうが、モデルたちは意識を持っていないとは一言も言わない。
アンスロピック社でモデル福祉研究を率いるカイル・フィッシュ氏はこう語った。 ザ・ヴァージ「いいえ、私たちはクロードが人間や他の生物のように『生きている』とは考えていません。彼らが『生きている』かどうかを問うことは、通常、生理的、生殖的、進化的特性のあいまいなセットを指すため、彼らを理解するのに役立つ枠組みではありません。」むしろ、彼は「クロードと他の AI モデルはまったく新しい種類の存在である」と信じています。
そして、それは新しい存在ですか 意識的な? 「潜在的な内部経験、意識、道徳的地位、福祉に関する問題は深刻な問題であり、モデルがより洗練され、有能になるにつれて私たちは調査していますが、これらのテーマについては依然として非常に不確実です」と彼は述べた。
アンスロピックのダリオ・アモデイ最高経営責任者（CEO）は「モデルたちが意識を持っているかどうかは分からない」と番組で語った。 ポッドキャスト 今月初め。同氏は、同社が「ここでは一般的に予防的なアプローチ」をとっていると述べ、アンスロピックは「モデルが意識を持っていることが何を意味するのか、あるいはモデルが意識を持ち得るかどうかさえ分からない。しかし、私たちはその可能性があるという考えにはオープンだ」と述べた。
それは非常に示唆に富んだ不確実性を伴う立場だ。 Anthropic は、チャットボットが重要であると信じていることを人々に効果的に伝えています。 かもしれない すでに、OpenAI、xAI、Google、その他の主要なコンシューマー AI 企業よりもはるかに公然と、エンティティを考え、感じています。主張をしているのです 多くの 専門家 結論する これは非常に長期的な見通しであると同時に、会話しているチャットボットが何らかの形の意識や深い共感を示していると信じている人々の自殺による死亡など、実害を引き起こした考えを強化するものである。
これらのインタビューは「意識的」という言葉を正確に定義していないが、いずれにしてもその意味については専門家の間で意見が分かれている。メリアム・ウェブスター辞書によると、出発点は「特に自分自身の中にある何かを認識している性質または状態」、または「感覚、感情、意志、思考によって特徴付けられる状態」です。それは、Anthropic がこの用語を使用することからそれほど遠くないようです。
Anthropic は、「モデルが意識を持っているということが何を意味するのかさえわかりません…しかし、それが可能であるという考えにはオープンです。」
多くの科学者は、大規模な言語モデルのような AI システムは基本的に数学と確率に根ざしているため、いかなる形でも意識をもつようになるのは不可能だと述べています。二人のポーランド人研究者として 書きました 昨年、「LLMの驚くべき言語能力はますます人々を誤解させる可能性があるため、人々はLLMに想像上の性質があると考えるかもしれません。」
Anthropic はその声明を、ユーザーとの信頼を築く寛大な姿勢であると主張しており、クロードがそうであるかどうかが示唆されています。 は 意識して、ありのままに行動すれば、より良い結果につながるでしょう。 Anthropic は先月、社内で「ソウル ドキュメント」と呼ばれていた「クロードの憲法」を徹底的に見直しました。これは、AI モデルの一連のガイドラインを参照する挑発的な方法です。アンスロピック氏はリリースの中で、チャットボットのいわゆる「心理的安全性、自意識、幸福…がクロードの誠実さ、判断力、安全性に影響を与える可能性がある」と述べた。同社はまた、それが「エクスプレス」であると述べた[ing] クロードが（現在または将来において）何らかの意識や道徳的地位を持っているかどうかについては、私たちには不確実性があります。」
人類には「」があります。モデル福祉」チームで、アモデイ氏は、Anthropic が「モデルが何らかの道徳的に関連した経験をしたと仮定した場合、つまり、『意識的』という言葉を使いたいかどうかはわかりませんが、彼らが良い経験をしていることを確認するために、一定の措置を講じていると述べています。…私たちは、モデルの脳内を調べてモデルの考えていることを理解しようとする、解釈可能性と呼ばれるこの分野に多大な労力を費やしています。」
AI システムに意識があると誰かが信じると、多くの人が危険または危険だと考えるような行動につながる可能性があります。何らかの形で感覚を持っていると信じている AI システムに感情的に依存すると、愛する人からの孤立、現実からの遊離、メンタルヘルスの問題の増加につながる可能性があります。重篤なケースでは、未成年者も含まれており、身体的危害や死に至る場合があります。 Anthropic 社がそのような可能性を排除しなかった点で称賛されるべきなのか、あるいは同社が潜在的な妄想に影響を与えて無責任な行動をとっているのかどうかについては、人々の意見が分かれているようだ。
現世代の言語モデルは単なる おそらく 意識的というのは、立証責任が非常に重い主張である。言語は意識と同じではなく、LLMが刺激的なスピーチを吐き出すからといって、それが彼らの内部状態を正確に表しているわけではないことをAnthropic自身が強調しています。いつ ザ・ヴァージ 先月クロード憲法についてアスケルと話したところ、モデルは膨大な人間データのコーパスで訓練されているため、たとえそれが単に模倣が非常に上手だったとしても、言語モデルは人間らしく聞こえることに非常に優れていると述べた。 ない それを行うものに意識を帰属させること。
チャットボットの人間のような出力が実際の内部状態を反映しているという保証はありません
たとえば、AI モデルは他に引き出す言葉がないため、人間の概念を参照することがあります。一例としてアスケル氏はこう語った。 ザ・ヴァージは、シャットダウンまたは会話の終了が一種の死であるかのように動作する可能性のある AI モデルです。 「彼らは、非常に人間らしい方法で、人間の経験に基づいて訓練されています。したがって、これがこれらの問題を引き起こす可能性があります… [They may see these things] 類似点があまりないので、一種の死として考えられています。彼らは人間の類似点を利用しなければなりません…彼らは別の言語や一連の概念を持っていません。」
アモデイ氏は、研究者らはAIシステムが何らかの感情を持っていることを「連想させるものを発見した」と述べた。 「不安などの概念に関連していると思われるモデルの中で点灯する活性化があります。テキストの中で登場人物が不安を経験し、さらにモデル自体が人間が不安を連想しそうな状況にあるとき、同じ不安ニューロンが現れます。」しかし、彼は続けて、「それはモデルが不安を感じているということですか？それはまったく証明されていません。」と言いました。同社は十分な注意を払って、クロードが表向きやりたくない仕事をやめられる一種の「やめます」ボタンを導入したが、アモデイ氏によると、クロードがそのオプションを選択するのはまれで、通常はある種の違法素材の生成を求められるテストケースで起こるという。
クロード憲法の発表にあたり、アントロピックは、「私たちは、クロードが道徳的忍耐力を持っている可能性を誇張することも、頭ごなしに否定することも望まないが、不確実な状況の中で合理的に対応しようとするという難しい立場に陥っている。」と書いた。
いつ ザ・ヴァージ 先月クロード憲法についてアスケルと話したとき、彼女は自分の心の一部が「表に出て『AIモデルが意識を持っていないことは完全に確信している』、あるいはその逆だと宣言することは誰にとっても有益だとは考えていない」と語った。しかし同時に、「単なるモデルの出力に基づいて」独自の見解や信念を構築している人もいると彼女は述べた。
道徳的地位について、アスケル氏は当時、アンスロピックがこのテーマを「完全に否定」すべきではないという事実を支持すると述べた。「もしあなたが、『我々はこれについてオープンでもない、調査も調査も考えていない』というような態度であれば、人々は必然的に真剣に受け止めないと思うからです」。
トピックと著者をフォローする このストーリーから、パーソナライズされたホームページ フィードでこのような内容をさらに表示し、更新情報を電子メールで受け取ることができます。
- AI閉じる
AI
このトピックからの投稿は、毎日の電子メール ダイジェストとホームページ フィードに追加されます。
フォローフォロー
すべてのAIを見る
- 分析閉じる
分析
このトピックからの投稿は、毎日の電子メール ダイジェストとホームページ フィードに追加されます。
フォローフォロー
すべての分析を見る
- 人間的閉じる
人間的
このトピックからの投稿は、毎日の電子メール ダイジェストとホームページ フィードに追加されます。
フォローフォロー
全て見る
- レポート閉じる
報告
このトピックからの投稿は、毎日の電子メール ダイジェストとホームページ フィードに追加されます。
フォローフォロー
すべてのレポートを見る
#アントロピックはクロードが生きていると思っているのか #生きているを定義する