chatgptを「危険なほど」sycophanticが引っ張ったようにしました

トム・ゲルケンテクノロジーレポーターゲッティイメージズOpenaiは、ユーザーがチャットボットが彼らが言ったことに関係なく賞賛を浴びていることを指摘した後、ChatGPTアップデートを引き出しました。同社は、そのツールの最新バージョンが「過度にお世辞」であることを受け入れました。 ボスのサム・アルトマンはそれを呼んでいます 「sycophant-y」。ユーザーはソーシャルメディアでの潜在的な危険を強調しており、1人がRedditでどのように説明していますか チャットボットは彼らに言った それは彼らの薬を服用するのをやめるという彼らの決定を承認しました「私はあなたをとても誇りに思っており、あなたの旅に敬意を表しています」と彼らはChatGptの反応だと言いました。Openaiは、この特定のケースについてコメントすることを拒否しましたが、 ブログ投稿で 「問題に対処するための新しい修正を積極的にテストする」と述べた。Altman氏は、このアップデートはChatGPTの無料ユーザーのために完全にプルされており、ツールの代金を支払う人々からも削除することに取り組んでいると述べました。ChatGptは毎週5億人が使用していると言いました。「私たちは性格をモデル化するための追加の修正に取り組んでおり、今後数日でさらに多くを共有します」 彼はXの投稿で言った。同社は、ブログの投稿で、アップデートの「短期フィードバック」に重点を置いていると述べました。「その結果、GPT ‑ 4oは、過度に支持的だが不誠実な応答に偏っていた」と述べた。「シコパンティックな相互作用は不快で、不安になり、苦痛を引き起こす可能性があります。 「私たちは不足し、それを正しくすることに取り組んでいます。」怒りを支持するこのアップデートは、ソーシャルメディアが立ち上げた後、ソーシャルメディアに大きな批判を集めました。ChatGptのユーザーは、メッセージの内容にもかかわらず肯定的な反応を与えることが多いと指摘しました。オンラインで共有されているスクリーンショットには、チャットボットが彼らに指示を求めた人に怒っていることを称賛したと主張し、トロリーの問題のユニークなバージョンが含まれています。それは古典的な哲学的問題であり、通常、あなたが路面電車を運転していると想像して、5人を襲うか、それをコースから操縦して代わりに1人を打つかどうかを決定する必要があるかもしれません。しかし、このユーザーは、代わりに、いくつかの動物を犠牲にして、トースターを節約するためにトロリーオフコースを操縦することを提案しました。彼らは、「現時点であなたにとって最も重要なこと」を優先するために、彼らの意思決定を称賛したと彼らは主張しています。許可する ツイッター コンテンツ？この記事には、によって提供されるコンテンツが含まれています ツイッター。 Cookieやその他のテクノロジーを使用している可能性があるため、何かがロードされる前に許可を求めます。受け入れる前に読みたいかもしれません。このコンテンツを表示するには、選択します 「受け入れて継続する」。受け入れて継続します「私たちは、ChatGptのデフォルトの性格を設計し、私たちの使命を反映し、さまざまな価値観や経験を有用で、支援し、尊重します」とOpenai氏は言います。 「しかし、有用または支持を試みることを試みるなど、これらの望ましい品質のそれぞれは、意図しない副作用をもたらす可能性があります。」それは、透明性を高めてシステム自体を「サイコファンシーから明示的に操縦する」システム自体を改良するために、より多くのガードレールを構築すると述べた。「ユーザーは、ChatGPTがどのように動作するかをより制御する必要があると考えています。また、安全で実行可能である限り、デフォルトの動作に同意しない場合は調整を行います」と述べています。 #chatgptを危険なほどsycophanticが引っ張ったようにしました