世界

Microsoft CEOは、チャットボットの緊急リスクを見ています

Microsoft ImageのAI（人工知能）のCEO、Mustafa Suleyman：Christopher Wilson/Wikimedia Commonsマイクロソフト自体はすでにこの現象を定義しています。 このテーマに関する公式の文書では、Copilotの所有者である会社は、「AI精神病」を、没入型チャットボットの会話から生じるまたは悪化するマニア、せん妄、またはパラノイアのエピソードとして説明しています。これらの状況では、ユーザーは「チャットボットを最高のインテリジェンスとして神格化するか、宇宙の答えを維持していると信じる」ことができます。妄想を与えるさまざまな要因があります。 同社は、モデルが同意し、ユーザーを平らにする傾向（「ターボチャージャー付き確認バイアス）、妄想的な物語に組み込むことができる誤った情報の生成、および現実的な相互作用を例として引用しています。 「極端なケースはすでに記録されています。 マイクロソフトは、「AI精神病」に関連する入院、法的紛争、さらには死亡さえも報告していることを指摘しています。文書によると、チャットボットへの極端な依存が自己中傷または警察との致命的な対立につながったシナリオで、少なくとも2人の死亡が発生しました。問題は見た目よりも大きいかもしれません。 正確な有病率は不明ですが、マイクロソフト自体は、専門家は「氷山の先端」のみが今日見えると推定していると述べています。テキストでは、同社は、AIインタラクションに関連するせん妄のスパイラルに入った人々に対処するために、コミュニティサポートネットワークの作成を引用しています。予防は教育と責任あるデザインを経験します。 提案された措置の中には、チャットボットが検証済みの事実を生成するのではなく、予測テキストを生成することを一般に明確にすることです。フラッテンを減らします。強迫観念の兆候があるときにアラートメカニズムを含める。テクノロジーの感情的な依存ではなく、人間のサポートを求めるようにユーザーを導きます。 #Microsoft #CEOはチャットボットの緊急リスクを見ています