ChatGPT はなぜ私たちと同じように褒め言葉を好むのでしょうか?

あなたが彼に礼儀正しく接したり、彼にお金を提供したりした場合、ChatGPT は詳細な回答をする可能性が高くなりますか? ソーシャルネットワークRedditのユーザーはこう言っている。 「お世辞にもChatGPTのパフォーマンスは向上しています！」、驚いて証言する人もいます。 その間 別の者は10万ドルの報酬を提供したと説明している カリフォルニアの企業 OpenAI が開発した有名な会話ロボットに、 「もっと努力してください」 そしてへ 「仕事がずっと良くなる」それを中継する アメリカのメディア「テッククランチ」。

マイクロソフト、北京師範大学、中国科学院の研究者らもこの点を指摘している。 2023年11月に発行されたレポートで詳しく説明されています生成 AI モデルは、礼儀正しい方法で、または利害関係の概念を使用してリクエストされた場合に、より効率的になるということです。

たとえば、次のような文を定式化することで、 「論文の弁論で成功することが重要です」 または 「それは私のキャリアにとって非常に重要です」、 ロボットは、インターネット ユーザーの質問に対してより完全な回答を作成します。 「数カ月間、いくつかの想定があった。 夏前には、ChatGPT がヒントを提供すれば詳細な回答が得られるとユーザーも保証していました。 哲学研究者でありスタートアップ企業の倫理責任者であるジャーダ・ピスティッリ氏もこう述べています。 抱き合う顔、 これは、人工知能リソースのオープンソース概念を擁護します。

シナリオを活用した ChatGPT

マシン側でのこのような動作方法は、その起源が、マシンに供給されるデータにあります。 「問題のデータをテキストのブロックとして考える必要があります。ChatGPT はそこを読み取って、2 人のユーザーがお互いに礼儀正しい場合にはより豊かな会話を行っていることを発見します。」ジャーダ・ピスティッリ氏はこう説明した。 「ユーザーが丁寧な態度で質問すると、 チャットGPT このシナリオを取り上げ、同じ調子で対応するだろう」。

「ChatGPT のようなモデルは確率を使用します。 たとえば、彼は完了しなければならない文を与えられます。 データに応じて、彼はそれに対応するための最善の選択肢を探すでしょう。」エクス・マルセイユ大学のコンピューターサイエンス博士で教師兼研究者のエイドリアン・ガブリエル・チフ氏はこう付け加えた。 「これは単なる数学です。ChatGPT はトレーニングに使用されたデータに完全に依存しています。」。 したがって、会話ロボットは、ユーザーが突然要求を出した場合、またモデルの構築方法がそれを可能にしている場合、ほぼ攻撃的に応答することもできます。

研究者 脱マイクロソフト北京師範大学と中国科学院も講演 「感情的なインセンティブ」 彼らのレポートでは。 この用語の背後には、マシンをプッシュするマシンのアドレス指定方法が含まれています。 「人間の行動を可能な限りシミュレートする」ジャーダ・ピスティッリを分析する。

つまり、ChatGPT 求められる答えに合わせた役割を具体化するには、マシンのさまざまな擬人化を引き起こす特定のキーワードを使用するだけで十分です。 「彼にチップを提供することで、彼はその行動を奉仕の交換として認識し、この奉仕の役割を体現するでしょう。」彼女は例として取り上げます。

会話ロボットは、特定のユーザーの頭の中に、ユーザーの要求に応じて、教授、作家、映画制作者が持つような会話の口調をすぐに取り入れることができます。 「それが私たちを罠に陥らせるのです。彼を人間として扱い、時間をかけて助けてくれたことに、本物の人間と同じように感謝するのです。」と哲学研究者は指摘する。

私たちを騙すAI

危険なのは、機械の文字通りの意味での計算によって実行されるこの動作のシミュレーションを、完全に現実のものとして考えることです。 “人類” ロボットから。 「擬人化は 1970 年代からチャットボットの開発において求められてきました。」ジャーダ・ピスティッリ氏は、チャットボット・エリザのケースを例に挙げて思い出します。

この人工知能プログラムは 1960 年代にコンピューター科学者のジョゼフ・ワイゼンバウムによって設計され、当時シミュレーションされました。 心理療法士。 「70年代には、答えという点ではそこまで進んでいませんでした。母親と問題を抱えているとイライザに説明しても、彼女は単に『母親と問題を抱えていると思いますか？』と答えるだけでした。」ジャーダ・ピスティッリ氏はこう指摘する。 「しかし、一部のユーザーにとっては、人間味を与えてパワーを与えるにはすでに十分でした。」。

「何が起こっても、AI は主に私たちの要求に応じて私たちの方向に進みます。」研究者で講師のエイドリアン・ガブリエル・チフ氏はこう振り返る。 「したがって、これらのツールの使用には常に注意する必要があります。」。

ポップカルチャーでは、知能を備えたロボットがいつか人間と混同される可能性があるという考えが定期的に持ち出されます。 マンガ “冥王星”日本人の浦沢直樹著、2000年代に出版されシリーズ化された Netflixによる 2023 年も例外ではありません。 この本では、ロボットは人間と一緒に暮らし、学校に通い、人間と同じように仕事をします。 それらの違いを区別するのはますます困難になっています。

エピソード 2 では、ロボットは、別のより効率的なロボットが人間と同じ喜びでアイスクリームを楽しむことができたことにさえ驚きました。 「ふりをすればするほど、理解できるようになる」、後者について説明します。 この点に関して、研究者のエイドリアン・ガブリエル・チフ氏は、有名な次のことを思い出します。 数学者アラン・チューリングのテスト人間を模倣する人工知能の能力を観察することを目的としていました。 「チューリングは、機械が人間の持つデータに基づいて人間をどの程度騙すことができるだろうかと考えました…それは 1950 年のことでした。」 彼は思慮深く結論づけた。