ChatGPT には最近、AI モデルが複数のユーザーと全く意味不明な会話を始めたという深刻な不具合が発生しました。 ChatGPT が全く無意味なとりとめのない話をしているというさまざまなレポートが、特に Reddit 上で現れ始めました。 AI がループに陥ったり、言語を混合して奇妙なハイブリッドを作成したりするという報告もありました。 OpenAI は後で問題に気づき特定し、数時間後に修正されました。
ChatGPT が正しく動作せず、ループやスパッタリングに陥る
Reddit に関するある報告によると、ChatGPT が突然支離滅裂に話し始めました。 AI は、ランダムな単語、特定のトレーニング データの断片、さらには異なる言語をぼかしました。 別の不正行為の報告では、あるユーザーが幻覚と明晰の間を行き来する ChatGPT のスクリーンショットをいくつか共有しました。 意味不明な会話をした後、応答を終了する前にループにはまってしまいました。 ユーザーがそれを指摘すると、謝罪したが、また意味不明な会話に戻った。 スクリーンショットを撮ったときにも同じことが起こりました。
別の非常に興味深い投稿では、ChatGPT が再びループにはまっていることを示していました。 ただし、今回はループが自己修復されました。 ChatGPT が「A」で始まる世界最大の都市の名前を尋ねられたとき、非常に奇妙な感触を得ました。 都市の名前を出し、それが正しい答えではないと言って、延々と再試行します。 人々はコメントのチャットでそれを試し、同様の結果を共有しました。 OpenAIのプレミアムサブスクリプションモデルであるGPT-4に関する別のReddit投稿では、ChatGPTの幻覚が示されていた。 ここでも、数人のユーザーがコメントで同様の結果を共有しました。
OpenAI がなぜこのようなことが起こったのかを説明する
OpenAI は発達障害を考慮し、問題を迅速に特定しました。 数時間以内に、同社は ChatGPT がステータス ページで正常に動作していると報告しました。 翌日、同社は何が問題だったかの説明を考え出した。
どうやら最近の最適化により問題が発生したようです。 OpenAI は、ChatGPT がどのように機能するのか、何が問題なのかを非常に簡単に説明しました。
「LLM (大規模言語モデル) は、部分的に確率に基づいて単語をランダムに選択することにより、回答を生成します。 彼らの「言語」は、トークンに関連付けられた数字で構成されます。 この場合、モデルがこれらの数値を選択するステップでエラーが発生しました。 翻訳で失われたのと同様に、モデルは意味をなさない単語シーケンスを生成するわずかに間違った数字を選択しました。
つまり、ChatGPT は言葉を間違えて、意味不明なミームを取り上げたのです。 大きな辞書に向かってダーツを投げ、ダーツが当たった単語から文を作るようなものだと考えてください。
1708875748
#ChatGPT #が機能せず話し始めました
2024-02-25 11:11:16