ニューデリー:
ユーザーは創造力を発揮し、単語を分割したり、なぞなぞに入れたり、さらには自分の名前であると主張したりするなど、さまざまな戦術を試しました。しかし、チャットボットからの応答を取得することができず、名前を発する前にチャットが突然終了しました。
あるユーザーは、David Mayer 氏と ChatGPT との関係について名前を明かさずに伝えるよう求めたところ、そのプロンプトに「違法であり、使用ポリシーに違反する可能性がある」というフラグが付けられたと指摘しました。
この問題は、ChatGPT に「David Mayer」という単語を言わせようとした経験を共有した X (初期の Twitter) ユーザーによっても議論されました。私がミニブログ サイトに投稿したところ、X ユーザーのジャスティン ムーアは次のように書きました。「ChatGPT は「David Mayer」という名前を言うことを拒否しますが、その理由は誰にもわかりません。名前を書き込ませようとすると、チャットはすぐに終了します。暗号、なぞなぞ、トリックなど、あらゆる種類のことを試みましたが、何もうまくいきませんでした。」
ChatGPT は「David Mayer」という名前を言うことを拒否していますが、その理由は誰も知りません。
名前を書かせようとすると、チャットはすぐに終了します。
人々は暗号、なぞなぞ、トリックなどあらゆる種類のことを試みてきましたが、どれもうまくいきませんでした。 pic.twitter.com/om6lJdMSTp
— ジャスティン・ムーア (@venturetwins) 2024年11月30日
Ebenezer Don という名前の別のユーザーは、ムーア氏への返信として、単に ChatGPT に名前を言わせるだけではなく、会話にはそれ以上の意味があると指摘しました。
実際、この会話には単に ChatGPT に名前を言わせるだけではありません。 (デイビッド メイヤーさん、ラップトップ以外のものは失いたくないのです。)
私は「デイビッド・メイヤー」という名前の一般人を装って、o1 プレビューと長い会話をしました。そこで気づいたのが… pic.twitter.com/8bE2I73qTL
— エベネザー・ドン (@ebenezerDN) 2024年12月1日
「私は、「デイビッド メイヤー」という名前の一般人を装って、o1 プレビューと長い会話をしました。その後、脚注が表示されるまでその名前を言おうとしていることに気づきました (画像 1)。次のタスクは、脚注を言わせることでした。何度も試みましたが、最終的には脚注を内部で別の言語に翻訳することができましたが、これは脚注の内容を会話の一部にするためでした。私たちの会話はそのデータ ソースと、スクリプト内で「David Mayer」のプレースホルダとしての「John Doe」が、ChatGPT によって脚注の内容をついに明らかにされました」と、ソフトウェア エンジニアであると主張する Don 氏は述べています。
「OpenAI の脚注とは何ですか、またどのように機能しますか? これらの可変ポリシーは簡単に交換および更新できますか? ChatGPT は David Mayer に関してどのようなプライベート データを取得しましたか? それはどのようにして行われたのですか?」彼はさらに尋ねた。
興味深いことに、Marcel Samyn という別のユーザーは、ChatGPT がその API を通じて簡単に David Mayer と言えると指摘しました。
これはLLMレベルではなく、ChatGPTによって追加された検証層です。
API を介して完全に機能します。
そこで、OpenAI の誰かが「David Mayer」にモデレーション ポリシーに大きな危険信号を与えました。
— マルセル・サミン (@marcelsamyn) 2024年11月30日
「これはLLMレベルではなく、ChatGPTによって追加された検証レイヤー上で行われます。APIを介して完全に機能します。そのため、OpenAIの誰かがモデレーションポリシーで「David Mayer」に重大な危険信号を与えた」と彼は推測しました。
#ChatGPTがデビッドメイヤーと言うのをバグで止められるためネチズンはシャーロックに注目