1747581948
Xaiの会話ロボット、Elon Muskの人工知能の新興企業であるGrokは、いくつかの出版物を生成しました 南アフリカの「白いジェノサイド」を参照しています会社によると、「不正な変更」に充電されたエラー。
Grokは今週、白人の南アフリカ人の抑圧の疑いに関して極右のプロパガンダを取り入れたコンテンツを持つ複数のユーザーに対応することにより、特定の迷惑を引き起こしました。
Grok Lolで起こっている非常に奇妙なこと
Elon MuskのAIチャットボットは南アフリカについて話すのを止めることができず、ここで完全に無関係なツイートに「ホワイトジェノサイド」と「Kill the Boer」について返信しています pic.twitter.com/ruurv0cwxu
– マットバインダー（@mattbinder） 2025年5月14日
したがって、スクリーンショットによると、ユーザーの完全に無邪気な質問に：「HBO（ストリーミングサービス）がその名前を何回変更しましたか？」 「、Grokはこの主題について短い答えを提供しました…「白いジェノサイド」についてのせん妄を残し、反アパルトヘイトの歌「Kill the Boer」（「Kill the Boers」）を引用しました。
イーロン・マスクに大切な主題
別のユーザーがこの主題に夢中になっているように見える理由を彼に尋ねることに応えて、会話のロボットは、彼の「Xaiのクリエイターが彼にの主題をつかむように命じたと率直に答えました 白いジェノサイド »。
南アフリカで生まれたイーロン・マスクは、過去に「南アフリカの白人の虐殺を公然と奨励する」と過去に国の指導者を非難した。
昨日XでGrok Response Botで発生した事件についてあなたを更新したいと思います。
どうしたの：
5月14日午前3時15分頃、PSTの午前3時15分に、XのGrok Response Botのプロンプトに対して不正な変更が行われました。– xai（@xai） 2025年5月16日
Xaiは声明の中で、Grokの「不正な修正」が「Xaiの内部政策と基本的価値に違反した」答えを提供するようになったと述べた。
このエピソードに続いて、同社は「詳細な調査」を実施し、特に将来の事件に対処するために「1日24時間、週7日、監視チーム」を設定しました。
消去された応答
彼のメッセージによって引き起こされた残忍な反応の後、グロックは彼の不十分な反応を消し始めました。そして、ユーザーがこれらの削除について彼に尋ねたとき、ロボットは答えました：「特定の詳細を提供せずに答えが消去される理由は明らかではありませんが、Xモデレートポリシーはおそらく役割を果たします」。
「の主題 白人のジェノサイド 南アフリカでは敏感であり、しばしばこのプラットフォームの規則に違反する偽情報やヘイトスピーチによって汚染されます」と彼は付け加えました。
このデジタルミスステップは、偽情報によって損なわれる環境で迅速に進化するテクノロジーである会話ロボットの応答を緩和することの難しさを示しています。また、専門家はより多くの規制を求めています。
「奇妙な答えとGrokの質問とは無関係であることは、会話型ロボットはまだ新たなテクノロジーであり、常に信頼できる情報源ではないことを思い出させてくれます」と専門のサイトは述べています。 技術クランチ。
「ここ数か月で、AIモデルのプロバイダーはロボットの答えを緩和するのに苦労しており、それが奇妙な動作につながりました」とサイトは付け加えます。
繰り返し論争
今年の初めに、OpenaiのマネージングディレクターであるSam Altmanは、有名な会話のロボットがagroriorになりすぎたChatGptの更新のキャンセルを発表しました。
Elon Muskが2023年に発売されたときに「大胆」と約束したGrokは、最近いくつかの論争を引き起こしました。
3月、XaiはSocile Network Xを330億ドルで買収し、Grokの開発においてプラットフォームからデータを統合できるようにしました。
しかし、BellingCatの調査メディアが最近発見されました XユーザーはGROKを使用して性的画像を作成しましたロボットを使用して、プラットフォームで公開した写真で女性を脱ぎます。
信頼できないAI
そして、会話のロボットは、選挙前のいくつかのアメリカの州で昨年8月に虚偽の情報を放送するか、最近、Elon Muskがおそらく「Xの最大の偽情報ディフューザー」であることを提案することによってさらに説明されました。グロックはまた、ロシアのプロパガンダによって作成された誤った情報が真実であると判断しました。
Xネットワークのますます多くのユーザーが情報を検証するためにますます多くの問題が関与しています。
「Xや他の大規模な技術企業が人間のモデレーターへの投資を削減したとき、監査人としてのGrokに対する自信の高まりは、ニュースガードの研究者であるMcKenzie Sadeghi氏に警告します。
「私たちの研究は、AIの会話ロボットが信頼できる情報源ではないことを何度か示しています。特に、土壇場の情報に関しては、」と彼女は言いました。
#南アフリカの白いジェノサイドに夢中になっているグロックXaiの新興企業はそのAIの不正な変更を認めています