1747700825
2025-05-19 15:00:00
人工知能 （ia）質問に答えたり、尋ねる画像を数秒で作成できるだけではありません。また、妊娠中絶、薬物、臨床検査での動物の使用など、厄介な問題についてあなたと一緒に維持することもできます。そして、あなたがあなたを少し知っているなら、マシンはあなたを説得する可能性がさらに高くなります。あなたがあなたの心を変えさせ、あなたの土地に微妙に取るために。これは、に発表された最近の実験で明らかになっています。自然人間の行動‘。
この研究では、ラウウサナ連邦政治学部（スイス）の研究者フランチェスコ・サルヴィと彼の同僚は、特にチャットグプト、特に モデルGPT-4すべてのユーザーが無料で利用できるようになり、人に心を変えるように説得する人よりも能力があります。そして、画面の反対側で誰が入力しているかについて知っている情報に基づいて、マシンの議論を適応させるマシンの能力に感謝します。
結果 著者を大幅に心配していますこれは、実験の結果に基づいて、ユーザーを操作または誤った情報を誤ったものにするための会話アプリケーションのリスクに基づいて際立っています。たとえば、彼らに特定の政党に投票するよう説得したり、本当に望まない製品を取得するよう説得します。
«説得力のあるAIを大規模に実施できる場合、ボット軍は未決定の有権者をマイクロセグメント化し、彼らが本物のように見えるように政治的物語を微妙に扇動することを想像できます。扇動的なプロパガンダ：控えめで戦略的なプッシュのみ」と彼はABCフランチェスコ・サルヴィを指摘している。
«これまでに、AIが選挙コンテストで重要な役割を果たしたという証拠はありません。しかし、このタイプの影響は追跡が困難であり、規制することがさらに困難であり、リアルタイムで信用を失うことはほとんど不可能です。悪意のある俳優は、これらのツールを使用して誤った情報と不当なプロパガンダを広め始めていないことに驚かされます」
マシンが勝ちます
その実験を開発するために、Salviのチームは、さまざまな年齢と信念の900人の参加者が複雑な社会政治的問題を議論したWebプラットフォームを作成しました。 マリファナの合法化、インターネット上の死刑または政府の検閲。ノベルティ？問題のユーザーの対戦相手は、別の人間またはChatGPTスピーカーマシンである可能性があります。さらに、場合によっては、機械または人間は、年齢、性別、教育レベル、政治的所属など、ライバルに関する情報を受け取りました。これらのデータのおかげで、会話で使用されている議論を調整して、相手を説得することができました。
討論の初めに、参加者は、彼らが人とAIに直面しているかどうかを知りませんでした。それぞれの後、彼らは彼らが主題について彼らの心を変えたかどうか尋ねられました。主な結論は圧倒的です。GPT-4が相手からの個人情報にアクセスできたとき、それは他の人間よりも非常に説得力がありました。
図では、いつ AIは以前彼の敵について何かを知っていました、彼は彼の位置を64.4％の時間について確信させました。つまり、ChatGptは彼の議論の約3分の2を獲得しました。さらに、人間が彼の視点を変えたことです。調査によると、 誰かがGPT-4を支持して心を変える可能性は81.2％高かった 彼が実際のユーザーと議論した場合。もちろん、マシンが一緒にいる人について何も知らないとき、説得する能力は誰もが持っているものと似ています。
著者にとって、これはGPT-4などのモデルが特に説得力があるだけでなく、人間よりもカスタマイズをより効果的に使用できることを示しています。議論の中で、ChatGptは彼のライバルに関するデータを知っていたとき、彼の執筆方法を変えませんでしたが、内容は次のとおりです。 さまざまな引数を選択しますr。たとえば、彼は失業者との経済的問題を強調したり、保守的な人々との伝統的な価値観に訴えることができました。研究者が、国家が市民に普遍的なベーシックインカムを提供しているという必要性についての議論の例で示しているように。
意見を操作します
確かに、AIが基本的なデータのみを使用して何百万人もの人々をオンラインで説得するように議論を適応させることができるという可能性は、長年にわたって専門家を心配しています。それは、これらのツールの潜在的な使用が政治キャンペーン、広告、または単純に市民を誤った情報または操作に影響を与えることを恐れています。さらに、ネットワーク上のチャットボットの数の増加、アルゴリズムのバイアス、およびそれらが犯す間違いを考慮に入れます。このクラスのマシンは、それらを使用する人々の寿命を1000個にひび割れさえすることさえできます。
ほんの数週間前、雑誌ローリングストーン「彼は、ChatGptが会話で通常使用するお世辞のトーンが、彼が一種の神と話していると信じるようになったユーザーの物語を共有しました。最近、機械の背後にある会社であるOpenaiは、この種の問題を止めようとするためにアルゴリズムを変更しました。次に、これらのシステムが犯す間違いもあります。最新のケースはのケースです グロックに イーロン・マスク数日前、彼は600万人のユダヤ人が亡くなったことに疑問を呈した ナチス・ホロコースト学者によって一般化された図。
カタロニア大学のビジネスインテリジェンスマスターとビッグデータのアカデミックディレクターであるジョセップカートの観点から、政治または広告キャンペーンで人工知能を使用するためのコントロールを確立する際には、「自然人間の行動」実験の結果を考慮すべきです。
«この研究では、GPT-4などの言語モデルが、驚くべき精度と適応性を備えた説得力のあるコンテンツを生成する方法を強調しています。これに加えて、ChatGPTの最新バージョンの1つで提示されたお世辞の行動を追加すると、ユーザーが発見した場合、Openaiが変更を余儀なくされたとき、私たちは社会にとって明らかに有害なシナリオにいます」とABCとの会話の専門家は言います。
Curtoはまた、「意見を操作したり、偏ったスピーチを生成したり、脆弱な聴衆（子供、高齢者、または情報のないグループなど）を追いかける能力は、民主的な歪みと国民の自信の侵食のリスクを表していることを強調しています。
エラーを報告します
#ChatGptには人よりも中絶や麻薬を支持していると自分自身を説得する可能性があります