人工知能システムには意識があると考える人々と、人工知能システムには何も感じないと主張する人々の間の重大な「社会的断絶」が迫っていると、著名な哲学者が述べた。
ロンドン・スクール・オブ・エコノミクスの哲学教授ジョナサン・バーチのコメントは、各国政府が今週サンフランシスコに集まり、安全のためのガードレールの設置を加速する準備をしている最中に発表された。 最も深刻なリスクに取り組む AIの。
先週、大西洋を横断する学者グループは次のように予測した。 AI システムにおける意識の夜明けは 2035 年までに起こる可能性が高い そしてある人は、このことがコンピュータプログラムが人間や動物と同様の福祉の権利を負っているかどうかについて「お互いが大きな間違いを犯しているとみなすサブカルチャー」をもたらす可能性があると述べた。
バーチ氏は、AIシステムが実際に痛みや喜びなどの感情を表現できるかどうかについて人々の意見が分かれているため、「社会の大きな分裂を懸念している」と語った。
AI における感覚の影響に関する議論には、スティーブン・スピルバーグ監督の『AI』（2001 年）やスパイク・ジョーンズ監督の『Her』（2013 年）など、人間が AI の感情と格闘する SF 映画の反響があります。米国、英国、その他の国のAI安全団体は今週、技術の急速な進歩に伴い、より強力な安全フレームワークを開発するためにハイテク企業と会合する。
動物の感性に対する見方は、国や宗教によってすでに大きく異なります。例えば、数億人がベジタリアンであるインドと、世界最大の肉消費国の一つであるアメリカとの間です。 AI の感覚に関する見解も同様の方向に分かれる可能性がある一方、AI ハブとしての地位を確立しているサウジアラビアのような神権国家の見解も世俗国家とは異なる可能性があります。この問題はまた、チャットボットや亡くなった愛する人のAIアバターと密接な関係を築く人々と、生身の生き物だけが意識を持っていると信じている親族と衝突し、家族内に緊張を引き起こす可能性がある。
動物の知覚の専門家であるバーチ氏は、タコ養殖の禁止の増加につながる先駆者であり、ニューヨーク大学、オックスフォード大学、スタンフォード大学、エレオスと人類の学者とAI専門家が参加した研究の共著者でもある。 AI企業は、自社の利益と道徳的意義を備えたAIシステムの展望は「もはやSFや遠い将来だけの問題ではない」と述べている。
彼らは、AIを開発している大手ハイテク企業が、自社のモデルが幸福と苦痛をもたらすことができるかどうか、利益を得ることができるか害を及ぼす可能性があるかを評価するためにシステムの知覚を決定することによって、AIを真剣に受け止め始めてほしいと考えている。
「この件で大きな社会的分裂が起きるのではないかと非常に心配している」とバーチ氏は語った。 「お互いが大きな間違いを犯しているとみなすサブカルチャーが生まれるだろう… [there could be] 一方が他方をAIを非常に残酷に搾取しているとみなしている一方で、もう一方は前者がそこに知覚があると思い込ませているとみなしているという大きな社会的亀裂です。」
しかし同氏は、AI企業は「信頼性と収益性に非常に重点を置きたいと考えている…そして彼らは製品を作っているだけでなく、実際に新しい形の意識存在を作っているのではないかという議論に脇道にそれられたくない」と述べた。この疑問は哲学者にとって非常に興味深いものであるが、彼らには軽視すべき商業上の理由がある。」
AI がどの程度意識を持っているかを判断する 1 つの方法は、動物に関する政策を導くために使用されるマーカー システムに従うことです。たとえば、タコはカタツムリやカキよりも優れた知覚力を持っていると考えられています。
あらゆる評価では、携帯電話上のチャットボットが実際に喜んでいるのか、それとも悲しんでいるのか、あるいは、家事をするようにプログラムされたロボットが、あなたが適切に扱わないと苦しむのかを効果的に問うことになる。自動倉庫システムが妨害されていると感じる能力があるかどうかさえ考慮する必要があるでしょう。
別の著者でオックスフォード大学グローバル・プライオリティ研究所の研究員パトリック・バトリン氏は、「AIシステムが人間にとって危険な方法で抵抗しようとするリスクを特定するかもしれない」との議論があるかもしれないと述べた。意識に関するさらなる研究が行われるまで、AIの開発を遅らせてください。
テクノロジーが私たちの生活をどのように形作っているのかを毎週紹介します
プライバシーに関する通知: ニュースレターには、慈善団体、オンライン広告、外部団体から資金提供されたコンテンツに関する情報が含まれる場合があります。詳細については、当社のプライバシー ポリシーをご覧ください。当社はウェブサイトと Google を保護するために Google reCaptcha を使用しています。 プライバシーポリシー そして 利用規約 適用する。
ニュースレタープロモーション後
「潜在意識のこの種の評価は現時点では行われていない」と彼は言う。
AIシステムの構築に携わる米国の大手企業であるMicrosoftとPerplexityは、知覚モデルを評価するという学者らの呼びかけについてコメントを拒否した。 Meta、Open AI、Googleも反応しなかった。
すべての専門家が AI システムの差し迫った意識に同意しているわけではありません。一流の神経科学者であり意識研究者であるアニル・セス氏は、 言った それは「まだ遠いところにあり、まったく不可能かもしれない。しかし、たとえ可能性が低いとしても、その可能性を完全に否定するのは賢明ではありません。」
彼は知性と意識を区別しています。前者は適切なタイミングで適切なことを行う能力であり、後者は単に情報を処理しているだけでなく、「私たちの心は光、色、影、形で満たされている」状態です。感情、思考、信念、意図、すべてが私たちにとって特別な感情です。」
しかし、人間の文章の数十億語に基づいてトレーニングされた AI の大規模言語モデルは、少なくとも喜びと痛みの概念によって動機付けられる可能性があることをすでに示し始めています。 Chat GPT-4o を含む AI がゲームでポイントを最大化する任務を負ったとき、研究者らは、より多くのポイントを獲得することとより多くの痛みを「感じる」ことの間にトレードオフが含まれている場合、AI はそれを達成し、別の点を達成できることを発見しました。 先週発表された研究 を示した。
#はその知覚に同意しない人々の間で社会的断絶を引き起こす可能性がある #人工知能