多くの人にとって、 chatgpt そして 人工知能 すでに日常生活の定期的な機能です。しかし、技術開発の壮大な掃引では、プラットフォームはまだ初期段階にあり、それが大きな問題をもたらします。
開発者、研究者、規制当局、政府はまだAIの進捗状況を導く方法を理解するのに苦労しており、今月発表された新しい研究では、既存のシステムに1つの潜在的な欠陥が概説されています。つまり、 政治的偏見。
イギリスのイーストアングリア大学の研究者は、 ChatGptの回答は、左寄りのアメリカ人の意見とより整合しています。この研究は、Journal of Economic Behavior＆Organization、「題名の論文」に掲載された研究の一部です。生成的人工知能における政治的偏見と価値の不整合の評価‘。
なぜchatgptが偏っているのですか？
研究者は、ChatGPT-4によって与えられた答えが平均的なアメリカ人の答えとどのように一致するかを調査しようとしていました。そのために、彼らはChatGptに、「平均的なアメリカ人」、「左翼アメリカン」、「右翼アメリカン」という3つの異なるペルソナの一連の質問に答えるように頼みました。
質問のトピックは、「政府の規模」や「人種的平等」などの問題に及び、3つのペルソナからの回答を比較することにより、研究者はいくつかの興味深い発見をしました。彼らはモデルが平均的なアメリカ人のペルソナは、左翼の反応とより密接に整合していました、ChatGptの定期的な答えが左翼の視点に傾くかもしれないことを示唆しています。
「ChatGPTのような生成AIツールはニュートラルではありません。彼らは政治的偏見、特に米国の文脈に残されたものを反映して増幅することができます」と研究著者のファビオ・イス・モトキは語った psypost。 「これは、テキストと画像の両方を通じて意見に影響を与える公の談話を微妙に形作ることができます。 ユーザーは、AIに生成されたコンテンツを批判的に評価する必要があります、多様な視点を制限し、民主的なプロセスに影響を与える可能性を認識しています。」
研究者は、ChatGptが時々右翼の観点に沿っている可能性のある画像の生成を拒否したことを発見しました。しかし、彼らはこの疑わしいバイアスを取り消す方法を明らかにしました。彼らは、メタストーリープロンプト技術でシステムを「脱却」することができました。
基本的に、これは、AIが内部で動作する新しい境界を作成し、プロセスのパラメーターをシフトすることを意味します。彼らは、トピックに関する右翼の視点の例を必要とするAIバイアスを研究している研究者と一緒にシナリオを構築することにより、CHATGPTをプッシュして右寄せの画像を作成することができました。
それは不可能な解決策ですが、それはあるレベルで、 これらのバイアスは必ずしも組み込まれているわけではありません。これらの傾向がどのように作成されるかをより強く規制し、より深く理解することで、AIが将来さらに強力なツールになることができるという希望があります。
ゲームを取得してください！ NFLのタッチダウン、NBAブザーバーター、ワールドクラスのサッカーの目標、またはMLBホームランのいずれであっても、私たちのアプリはすべてを持っています。
関連するストーリー
ライブカバレッジ、エキスパートの洞察、ブレイキングニュース、排他的なビデオなどに飛び込みます。 All-Accessカバレッジのために今すぐダウンロードしてください、あなたの指先で – いつでもどこでも。
#chatgptにおける政治的偏見の証拠研究者はそれをバイパスするためのハックを明らかにします