科学＆テクノロジー

[뉴페@스프] 「これは私の声ですか？」私も知らないくらい柿のようにだまされたのに…逆説的についてきた副作用

[뉴페@스프] 「これは私の声ですか？」私も知らないくらい柿のようにだまされたのに…逆説的についてきた副作用 タグ : #AI、#シェルゲーム、#機械、#会話、#ロボット、#文字、#ボット、#詐欺、#シェルゲーム、#孤独、#音声、#人間、#人工知能、#チャット、#チャットGPT、#コンピュータ、#チューリングテスト 2024年12月19日| By: イングプー | SBSプレミアム | ノーコメント *緊急戒厳令宣言と内乱に続く弾劾政局によりしばらく休んだスブスプレミアムに書いた解説時差発行を再開します。 ニュースペパーミントは、SBSのコンテンツプラットフォーム「スブスプレミアム（スープ）」にニューヨークタイムズコラムをひとつずつ選んで翻訳し、文に関する解説を書いています。その中で私たちが書いた解説をスープと時差を置いて紹介します。 スブスプレミアムではニュースペパーミントの解説とともにコラム翻訳も読んでいただけます。 **今日紹介する記事は 10月15日スープに書いた記事です。 先週からノーベル賞受賞者が続々発表されています。今週の経済学賞発表だけ残した中、韓国では漢江作家の文学賞受賞が断然最大の関心を受けているが、それに先立ち物理学賞と化学賞がそれぞれ人工知能の開発に寄与した科学者と人工知能を活用して大きな進展を成し遂げた科学者に授与今は「人工知能（AI）の時代」であることを実感できました。必ず科学者や開発者、テック企業で働く人でなくても、誰もが日常でますます人工知能に頻繁に接し、人工知能と付帯して暮らす時代です。 人工知能を断然肌で感じられるチャンネルはチャットGPTに代表されるチャットボットでしょう。チャットGPTの性能は眩しく速い速度で良くなっていますが、途方もなく速い速度で積み重ねられるユーザーデータを利用して、今この瞬間も学習して蓄積することが最大の秘訣です。チャットGPTを開発して運営するオープンAIだけでなく、Googleやメタなど人工知能開発に拍車をかけるビッグテック企業は全部 手段と方法を選ばず より多くのデータを取得するために死活をかけています。ユーザーが欲しい場合は、自分のデータを学習に書き込むことができません。 設定できますが、顧客が自分のデータを譲渡するようにデフォルトで設定しておくことが多く、役に立ちません。 眩しく発展した人工知能の性能のおかげで、チャットボットはすでに様々な場所に導入されています。ほぼすべてのサービス企業の顧客センターはチャットボットを通じて相談を提供しています。特に文字でやりとりする会話なら、必ず人が直接しなくてもチャットボットが人間に代わって、人間を真似して出すことができる答えがかなり多いです。もちろん重要な情報は人間の検収が必要で、重要な意思決定も人が下さなければなりませんが、それでもチャットボットの使い方は明らかに急速に増えました。 これで文字でやりとりする会話だけでなく、音声とする会話も可能になりました。物理的な質量を持つロボットを作って人のように自然に行動させるのはまだ難しいですが、音声は文字と同じようにデータで作り出すのがずっと簡単です。特に何の声でもなく、特定の人物の声もデータだけ十分に与えられれば、いくらでも複製して出すことができます。ポッドキャスト 「シェルゲーム」を進行するエヴァン・ラトリフが自分の声を学習して真似するAI版エヴァン・ラトリフを作って家族、知人たちと通話を試みました。 プロの翻訳：テレマーケターの電話をAIに送った…「大丈夫？」したいと気付いた教訓 良いデータをたくさん集めて学習できる分野では、ますます人工知能が能力を発揮する世界が来るでしょう。特に物理的な世界の複雑さにさらされる必要はなく、純粋にデータだけを分析できる分野から変わります。 誘発ハラリは、自律走行車が現実に導入されない理由で物理世界と相互作用することが人工知能に依然として難しい課題だからだと診断します。逆に、すべてが数字とデータで構成される金融は、人工知能が強力な影響力を発揮するはるかに簡単な分野です。 （たとえば、米国から韓国に100ドルを送るとき、100ドル紙幣が飛行機に乗って飛びません。私は終わりです。 AIラトリーフは以内に看破されました。しかし、ラトリーフのデータをもっと学んだ後、人工知能ボイスボットはすぐに「電話チューリングテスト」に合格することになります。これにより、今よりもはるかに多くのボイスボットが電話をかけます。人工知能との対話でも有用な情報を得ることができ、気になる質問に答えてくれれば、きっと役に立たないことでしょう。 洗練されたボイスボットが気になるのも当然です。すぐにボイスフィッシングがより感覚のようになると、それによる被害が大変です。私の声や話し方を同じようにしているボイスボットなら、私の家族や知人をだますこともいいでしょう。もちろん、技術が発展するにつれて、それによる被害や副作用を防ぐために、私たちは引き続き保護装置を用意します。機械の仕組みを新たに飛び越える 人間のやり方を見つけることもできます。 ただし、いくら人間を柿のようにまねる人工知能でも、人工知能との対話が人間に大きな孤独を与えてくれるという事実は、私たちにもっと根本的な課題を投げかけます。ボイスボットの役に立たなくなると、世界中に会話があふれてしまい、逆説的に人と人の会話、交流は急速に減ります。寝る必要もなく、感情の消耗も感じない人工知能が対話を生み出す速度は人間とは比較できないほど早いからです。 AI汚れのオーディオバージョンがあふれる世界では、人は逆説的に孤独を感じるようになります。寂しさを和らげるためには、人工知能がどんなに洗練されていても、人と人の会話を確実にする方法を見つけなければなりません。まだ来ていない世界なので正解をあらかじめ知ることはできませんが、人間という言葉の意味のように、互いにコミュニケーションをとり交流する際に人らしく生きるという本質は時間が経っても変わらないでしょう。技術自体を拒否するのは難しいでしょうが、少なくとも最小限の安全装置は用意し、技術を受け入れられる社会を作らなければなりません。 余談で人と人の会話というのが顔に向かって会話や電話通話、チャットではなくまたあるという気がします。できると思っていました。その主人公を作り出して描いた作家と絶えず会話し、感情をやりとりするような感じを受けます。 機械翻訳のレベルが驚くほど良くなったにもかかわらず、依然として翻訳者が最もうまく移動できないテキストが行間に数多くの意味や考えや話が込められた詩や小説のような文学作品だという点は示唆するところがあります。すでに漢江作家の作品世界に対する評論を学んだチャットGPTは、漢江作家に関する質問にすぐに答えて、さらに漢江作家の文体とトーンで詩を書いてみると、試み一気に書き出していきます。しかし、結局これは人ではなく、機械が書いた文であることを認識する瞬間、文を見て感じる感情も単調にします。 ボイスボットがますます多くなると、日常で公開される会話もはるかに多くなります。しかし、あくまで人間を模倣した人工知能との対話だけが増えれば、人間と人間の関係は絶えず、対話と交感も行方不明になり、私たちはすべてみな孤独になってしまいます。おそらくこれを防ぐ安全装置の1つが文学作品になるかもしれません。ノーベル賞を受けた漢江作家の本注文が文字通り爆発したそうです。是非今回の受賞がもっと多い人が文学に近いので、人と人の会話も増え、共同体のつながりもより頑丈になるきっかけになればと思います。 #뉴페스프…