ChatGptの声はOpenAIも心配させる

オープンAIが人間のように話すことができる新しいAIのテスト（昨年5月に発表され、秋まで延期された機能）で、ユーザーが ChatGptとの深い感情的なつながり。

Gpt-4oはオーディオ入力に応答できます わずか232ミリ秒で平均 320 ミリ秒で、これは会話における人間の応答時間とほぼ同じです。

これは、新しい 「音声モード」 永久に公開されます – ChatGptアプリですでに使用できるものよりも強力なバージョンについて話しています – 映画で描かれた未来 “彼女昼夜を問わず会話するAIに男性が恋をする、というストーリーの実現は、間違いなく手の届くところにあるだろう。

というか、声の。

私 のリスク 擬人化 – 人間の特徴や行動をAIモデルなどの非人間的な存在に帰属させるプロセスは、GPT-4oのオーディオ機能によって強化され、 モデルとの自然な会話OpenAIが実施した調査によると。

サンフランシスコの会社 彼は気づいた ユーザーがAIと会話する際に、潜在的なリスクを暗示する言葉や表現を使用した。 深い絆を形成する。

たとえば、次のような文章を言う人がいます。 「今日が一緒に過ごす最後の日だ」。

ChatGptユーザーの中にはAIに対して礼儀正しく接することに慣れている人もいる。 彼らはプロンプトに「お願いします」や「ありがとう」を頻繁に書きます。

事件

AIに「お願いします」と書いたことがありますか？それは意味があるかもしれません

ピエール・ルイジ・ピサ

2024年5月6日

しかし、テキストチャットは親密な関係を築くことはできるものの、音声会話ほど魅力的ではないことは確かだ。特に、OpenAIが約束しているように、人工知能が ため息をつく、くすくす笑う、陽気な、冗談っぽい、または悲しい口調になる 何について話しているかによります。

OpenAIにとって、新しい音声機能によって、それを使用するユーザーの利便性が低下するというリスクは常に存在する。 他の人間と交流する必要性。

これは孤独に苦しむ人にとってはプラスになるかもしれないが、「健全な人間関係」に悪影響を及ぼす可能性がある。

人工知能

OpenAI は ChatGpt が書いたテキストを認識するツールを持っているが、ユーザーを失うことを恐れて公開していない

ピエール・ルイジ・ピサ

2024年8月5日

OpenAIは、ChatGptに話すAIに関連するリスクを「軽減」したと主張している。例えば、 エロティックな内容暴力的または不適切な音を出す – 銃声 – または 著作権を侵害する （OpenAI は今のところ、仮想音声による歌唱を禁止します。）

しかし、この技術の最も厄介な「副作用」の一つは、場合によっては、 彼は誤ってクローンを作った ユーザーの声を拾い、それを使って応答しました。