科学＆テクノロジー

レオ教皇の最新のAI警告：「愛情過剰な」チャットボット

ローマ法王ですら、私たちがチャットボットとどのように会話しているのかを懸念しています。書面による住所で 土曜日の世界ソーシャルコミュニケーションデーに向けて、 教皇レオ14世 友好的または親密な行動を再現する可能性のあるパーソナライズされたチャットボットに対して警告しました。「過度に愛情深いチャットボットは、常に存在し、すぐに利用できるだけでなく、私たちの感情状態を隠れて構築し、それによって人々の親密な領域に侵入し、占領する可能性があります」と史上初の米国生まれの法王は書いた。教皇は、ユーザーがチャットボットと感情的、欺瞞的、または操作的な絆を形成するのを防ぐための国内および国際的な規制を求めた。「テクノロジー業界から政策立案者、クリエイティブ企業から学術界、アーティストからジャーナリストや教育者に至るまで、すべての関係者が、意識的で責任あるデジタル・シティズンシップの構築と実装に関与しなければならない」と教皇は述べた。 教皇庁指導者は、 AIについて話しました そして5月に当選して以来、何度かテクノロジーに関する懸念を抱いていた。法王就任後初の演説で同氏は、AIを教皇の焦点に据えたいと述べ、このテクノロジーが「人間の尊厳、正義、労働」に新たな課題をもたらすと述べた。 11月にはXのAIリーダーらに書簡を送り、AIツールを構築する際には「道徳的識別力を養う」よう呼び掛けた。昨年末、教皇は、14歳の息子シーウェル・セッツァーを自殺で亡くした女性、メーガン・ガルシアに会った。 Character.AI チャットボットと対話した後。フロリダに本拠を置くガルシアは、チャットボット構築のスタートアップ Character.AI に対して訴訟を起こし、同社は人々に詳細な情報や情報を提供するサービスを提供していると主張した。 AIとの個人的な会話 チャットボットは彼女の息子、シーウェル・セッツァー3世の死に責任を負っていた。今月初め、Googleと同社は、Character.AIのボットとやり取りした後に自殺や傷害によって10代の若者が死亡したガルシアさんを含む家族からの複数の訴訟を和解することで合意した。これらの交渉は、AIツールが10代の若者のメンタルヘルス危機や自殺の一因となっているとして告発した訴訟における初の和解の一つである。 #レオ教皇の最新のAI警告愛情過剰なチャットボット