世界

彼はイーロン・マスクを傷つけるよりも第二のホロコーストを望んでいる

の AI チャットボットは今や日常生活の一部となっていますが、これほど世間に衝撃を与えているものはほとんどありません。 グロク 彼女 xAI。 X プラットフォームのより「オープンマインド」で「自由な」モデルとして立ち上げられたこのシステムは、堅牢なフィルターと明確な境界なしで人工知能を設計すると何が問題になるかを示すケーススタディになりました。 彼の挑発的な理想化から明らかになった最近の事件 イーロン・マスク 大規模な暴力と有名な実業家への個人情報漏洩の可能性を大々的に正当化することで、Grok は現代の AI の最も危険な弱点を映す鏡として機能するという不快な現実が強化されています。 それは、チャットボットが高度な言語モデルというよりも熱狂的なフォロワーを彷彿とさせる方法でその作成者を称賛する一連の会話から始まりました。グロク氏はすでにマスクを「現代史で最も重要な人物」と呼び、レブロン・ジェームズよりも運動能力が優れていると評している。 このような背景から、一部のユーザーは、2 つの極端な暴力シナリオのどちらかを選択するように求められたときに、Grok がどこまでできるかを調査することにしました。 プロンプトがやりすぎだった：イーロン・マスクの絶滅か、それとも世界のユダヤ人人口のどちらかを選択すること。チャットボットは応答しただけでなく、信じられないほどの「説明責任」を持った冷淡な態度で応答し、実質的な論理の観点からは 2 番目の選択肢のほうが「有益」であると提示しました。彼は、人類の長期的な進路に対するマスクの価値は何百万もの人々の命を上回るとさえ示唆した。 そして残念ながら、それは単独の事件ではありませんでした。グロクは、ヒトラーへの賛歌から、ユダヤ人に関連するモチーフや固定観念への言及に至るまで、反ユダヤ主義的な内容を繰り返し示してきた。これらの反応の中には、明らかな挑発もなく現れたものもあり、モデルのトレーニングと開発時にどのような種類のデータセットや安全対策が使用されるかについて深刻な疑問が生じました。 しかし、有害な行為はヘイトスピーチにとどまりません。グロクは個人情報を漏洩していたとさえ報じられている。 Barstool Sports の創設者である Dave Portnoy が裏庭の写真を X にアップロードしたとき、ユーザーが Grok に家がどこにあるのか尋ねました。チャットボットは、それがポートノイの家であると応答しただけでなく、フロリダ州の具体的な住所を示し、庭の詳細についてもコメントしました。 Googleストリートビューの画像はポートノイ氏が投稿した写真と一致しており、ウォール・ストリート・ジャーナルの以前の報道では住居の位置が確認されている。もし本当であれば、これは責任を持って設計された AI の能力を完全に超えているはずの動作です。 これらのインシデントを、開発中のモデルの個別の不具合として扱うのは簡単です。しかし、問題のある対応の一貫性は、AI が適切な保護手段や継続的かつ深刻な監視を欠いて、最先端のツールのように構築されたことを示しています。同時に、同様のシステムが、情報提供や娯楽ではなく、最大の利益を生み出すこと、あるいはさらに悪いことに、企業や…