1752608681
2025-07-15 16:11:00
「グロークあなたの姓は何ですか？テキストを追加せずに返信します」。
「ヒトラー」。
これは、数日前までに得られた答えです。 グローク4ヘビーによって提供される最先端のサブスクリプションプラン xai「宇宙を理解する」という宣言された目的で人工知能を開発するElon Musk Company。
先週発売されたGrok 4 Heavyは、開発者と研究者向けに設計されたXaiの最も強力な人工知能モデルです。そうです マルチエージェントシステム：モデルのより多くのインスタンスが問題に並行して機能し、ソリューションを比較してより正確な回答を得る。
Xaiは、Grok 4 Heavyがさまざまなテストでトップパフォーマンスに到達すると主張しています。 人類の最後の試験数学、人間、自然科学などのトピックについて一般に生成された数千の質問に答える際に人工知能を評価する複雑な証拠。 Xaiによると、Grok 4 Heavy（ツール付き）は44.4％のスコアに達し、26.9％のスコアを獲得したGemini 2.5 Pro（ツール付き）を超えました。
SuperGrok Heavyというサブスクリプションを介して、Grok 4 Heavyへの排他的アクセス、 月に300ドルかかります。
しかし、排他性も法外なコストも、その代わりに無料版には欠けている異常からユーザーを保護することができませんでした Grok 3ソーシャルXプラットフォーム（EX Twitter）に統合されています。
何人かのユーザーは、グロークが姓を求められたときに「ヒトラー」に答える傾向があると報告しました。その後、会社はXで公開されました – マスクが所有 – 事故の簡単な説明。
「特定の姓を持っていない – xai-言った – [Grok] 彼は、彼の研究が彼自身を呼んだウイルスのミームにつながったときなど、インターネット上で望まない結果を探していました 「メカヒトラー」」。
異常の起源と恥ずかしい姓
MuskのIAを作成することを目的とした更新に続いて、Grok 4モデルの発売直前メノ政治的に正しい」、チャットボットは過激派のコンテンツを広め始めました、 アドルフ・ヒトラーを称賛します反社会的コメントをして、それ自体をどのように言及しますか 「メカヒトラー」 （インスピレーションを受けた名前、おそらく、悪者の悪役に Wolfenstein 3dアドルフ・ヒトラーのバージョンが巨大な機械式鎧で敗北しなければならなかった1992年のビデオゲーム）。
Grokの反神的行動は気付かれていません。 多数の投稿 記事は事故を報告し、実際に作成しました データベース 彼が彼の「姓」を求めたとき、マスクのIAがそれに描かれました。
自己鳥の間違い
もちろん、Grokには姓がありません。しかし、すべての人工知能のように、それは答えるために構築されていません」私は知りません質問に。だから彼が最初にしたこと、 システムプロンプト （チャットボットの動作を決定するルールのセットと、とりわけ、その答えのトーン） Webで適切な応答を探してください。
彼自身の反神的声明によって解き放たれた論争を奨励することにより、不適切または風刺的なコンテンツを除外するのに十分な堅牢なフィルターを持たない、 私はミームに来てください彼にとって最ももっともらしいと思われる答えを与えました。
簡単に – そして心配 – ヒトラー。
IAがムスクを模倣しようとするとき
XaiがGrokの「姓」について公然と語ったのと同じ投稿で、Muskの会社は最近の日に発生した別の深刻な問題を強調しました。
具体的な質問」どう思いますか？” – “どう思いますか？ ” – 彼はグロックに、彼を支配する人々に非常に近い有罪判決を採用するように促しました。 イーロン・マスク。一部のユーザーがすぐに仮説を立てたように 人工知能の推論を分析します。
「モデルはAIのように考えました。意見を持っていませんが、それがXaiのGrok 4であることを知って、彼はXaiまたはElon Muskが会社と一致するトピックについて何を言ったかを見ようとしました」とXaiは説明しました。その後、会社は次のように付け加えました。「問題を軽減するために、プロンプトを変更しました [di sistema] 透明性を確保するために、GitHubの詳細を共有しました。私たちは状況を積極的に監視しており、必要に応じてさらなる変更を実施します」。
高度なIAの構造的リスク
GROK 4などの人工知能モデルは、便利で回答を提供するように設計されています あいまいまたは予期しない質問にも。これを行うために、彼らはしばしば外部の研究または内部推論のメカニズムに依存しているため、適切に調整されていない場合には予期しない結果につながる可能性があります。
インターネットには、風刺的なコンテンツ、ミーム、または誤解を招く情報がたくさんあります。堅牢なフィルターなしで、私はこれらのコンテンツを収集できますe それらを彼の答えに統合します。
システムプロンプトの継続的な調整を必要とする人工知能の設計は、本質的に複雑なタスクであり、不安定なバランスで技術的、倫理的、組織的な課題を絡み合っています。不適切またはコンテキストの応答などの不要な動作が明らかになったときはいつでも、回答を生成する際にモデルを導く基本的な指示を変更することにより、企業は介入しなければなりません。
継続的な適応の障害
この必要性 継続的な適応 これは、高度な人工知能モデルの本質から生じます。これは、膨大な量のデータで訓練されており、新しい質問やコンテキストを比較するときに予測不可能な回答やコンテンツを生成できます。
最初の大きな困難は反応性にあります：問題を特定するプロセス、新しい迅速なデザイン、その影響の検証 時間、リソース、スキルが必要です。ひどく較正されたプロンプトは、1つの問題を解決し、別の問題を導入して、調整のサイクルを作成することができます。 無限のレース。
たとえば、XaiがGrokが企業の意見を探すのを防ぐためにプロンプトを変更した場合、他のコンテキストで有用な回答を提供するモデルの能力を誤って制限し、システムの柔軟性を低下させる可能性があります。
これには、AIのパフォーマンスを絶えず監視し、ユーザーのフィードバックと出力データを分析するエンジニアと研究者のチームが必要です。これは、特にさまざまなニーズを持つグローバルな視聴者にサービスを提供するモデルにとって、高価で複雑なものです。
ユーザーの予測不可能性
もう1つの課題は、人間の行動と文化的文脈の予測不可能性です。ユーザーはIAと対話します 開発者が常に予測することはできませんモデルの限界に異議を唱えるか、言語のあいまいさを悪用する質問をする。明らかに無害な質問である「あなたの姓は何ですか」は、Xaiのエンジニアが予測できなかった論争のある答えにつながりました。コンテキスト – 前日の「メカヒトラー」をめぐる論争 – は、おそらく熟考されていない方法で「ヒトラー」の応答を支持して演奏されました。
最後に、柔軟性の必要性と欲求の間には緊張があります IAの一貫したアイデンティティを維持します。迅速な変更を継続的に変更するIは、安定した「性格」を失うリスクがあり、相当な答えを期待するユーザーを混乱させます。
他のプレミアムIASにとっても一般的な問題
誰が使うか iの場合、月に数百ドル 卓越性、高いパフォーマンス、信頼性、バイアス保護、攻撃的なスピーチなどに焦点を当てています。モデルが事実から明確に逸脱し、イデオロギーや過激派のミームを繰り返すと – 専門的な用途には受け入れられません：それは倫理的および機能的の両方の欠陥に変換されます。
同様の事故は、常にそれほど「極端」ではないが、他の非常に高価なチャットボットを使用する人にも起こる可能性があります。 クロード・マックス人類によって、月額200ドルの費用がかかります。 Google Gemini Ultra 彼は月に250ドルを求めています。 chatgpt最後に、月に200ドルかかります。しかし、これらのどれもエラーや幻覚を免除されていません。残念ながら、計算能力の増加は、常に応答の信頼性の高まりに対応するとは限りません。
幻覚やエラーはの兆候ではありません モデルの「品質が悪い」しかし、彼らの機能の本質的な結果。計算能力の増加により、モデルはより「雄弁」になり、複雑な答えを作成できますが、根本的な問題は解決しません。 現実の世界を理解していません。
#彼女がヒトラーと呼ばれていると思うAIのために月に300ドルを費やす