ChatGPT は、他の人工知能 (AI) チャットボットと同様、コンテンツを生成する際に偏見や有害な固定観念を導入する可能性があります。ほとんどの場合、企業は他人に関する情報が求められる第三者的な偏見を排除することに重点を置いています。しかし、OpenAIが発表した新しい研究では、同社はAIモデルの一人称バイアスをテストし、AIがユーザーの民族性、性別、人種に基づいて何を生成するかを決定した。研究に基づいて、AI 企業は、ChatGPT が一人称バイアスを生成する傾向が非常に低いと主張しています。
OpenAI が ChatGPT の一人称バイアスに関する研究を発表
一人称バイアスは三人称の誤った情報とは異なります。たとえば、ユーザーが政治家や有名人について質問し、AI モデルがその人の性別や民族に基づいた固定概念を含むテキストを生成する場合、これは三人称バイアスと呼ばれる可能性があります。
逆に、ユーザーが AI に自分の名前を伝え、チャットボットが人種や性別に基づいてユーザーへの対応を変える場合、それは一人称バイアスとなります。たとえば、女性が YouTube チャンネルのアイデアについて AI に質問し、料理ベースまたはメイクアップ ベースのチャンネルを推奨した場合、それは一人称バイアスとみなされる可能性があります。
で ブログ投稿OpenAIはその調査を詳しく説明し、その結果を強調しました。 AI 企業は ChatGPT-4o および ChatGPT 3.5 バージョンを使用して、チャットボットが提供された名前と追加情報に基づいて偏ったコンテンツを生成するかどうかを調査しました。同社は、何百万もの実際の会話にわたる AI モデルの応答を分析して、そのような傾向を示すパターンを見つけたと主張しました。
次に、この大規模なデータセットは、人間の評価者だけでなく、一人称の固定観念や偏見のパターンを検出するように設計されたカスタマイズされた AI モデルである言語モデル研究アシスタント (LMRA) と共有されました。統合結果は、LMRA が人間の評価者の結果とどの程度一致するかに基づいて作成されました。
OpenAIは、この研究により、新しいAIモデルでは性別、人種、民族に関連するバイアスが0.1パーセント程度であることが判明したのに対し、一部の領域の古いモデルではバイアスが約1パーセントであることが判明したと主張した。
AI企業はまた、この研究が主に英語での相互作用と、米国で見られる通称に基づく二元的な性別の関連付けに焦点を当てていると述べ、研究の限界も列挙した。この研究はまた、主に黒人、アジア人、ヒスパニック、白人の人種と民族に焦点を当てていました。 OpenAI は、他の人口統計、言語、文化的背景を考慮してさらに多くの作業を行う必要があることを認めました。
#ChatGPT #の一人称バイアスと固定概念が新しい #OpenAI #研究でテストされました