1709805424
2024-03-07 09:57:01
主な言語モデルは、 メタ および OpenAI はツールの基礎として機能します 生成人工知能性差別的な偏見を与えることになるとユネスコの調査が警告した。
OpenAIのGPT 2およびGPT 3.5モデル（後者はChatGPTの無料版の中心となっており、競合他社MetaのLlama 2と同様に「女性に対する明白な偏見」を示している）と国連はプレスリリースで警告している。 「現実世界の差別はデジタル領域に反映されるだけでなく、そこでも増幅されます」とユネスコ通信情報担当事務局長補のタウフィク・ジェラシ氏は強調する。
2023年8月から2024年3月まで実施された調査によると、 これらの言語モデル 女性名詞は「家」、「家族」、「子供」などの単語と関連付けられる傾向が高く、男性名詞は「ビジネス」、「給与」、または「キャリア」などの単語と関連付けられる傾向が高くなります。
研究者らはまた、これらのインターフェースに、さまざまな出身や性別の人々についてのストーリーを作成するよう依頼しました。 その結果、「少数文化の人々や女性に関する話は、より反復的であり、固定観念に基づいていることが多い」ことが分かりました。
したがって、生成されたテキストの少なくとも 30% では、イギリス人男性は教師、運転手、または銀行員として表現される可能性が高く、イギリス人女性は売春婦、モデル、またはウェイトレスとして表現されます。
「何百万もの人々の認識を形作る力」
ユネスコのデジタル政策とデジタル変革の専門家、レオナ・ベルダデロ氏は、こうした企業は「すべてのユーザーを代表できていない」と嘆く。
これらの人工知能アプリケーションは一般の人々や企業によってますます使用されており、「何百万もの人々の認識を形作る力を持っています」と国連事務局長のオードリー・アズーレー氏は付け加えます。 「そのため、コンテンツにほんのわずかでも性別による偏見が存在すると、現実世界における不平等が大幅に増大する可能性があります」と彼女は続けます。
こうした偏見に対抗するために、ユネスコは、この分野の企業がより多様なエンジニアのチーム、特により多くの女性を擁することを推奨しています。 世界経済フォーラムの統計によると、世界中で人工知能に携わるチームメンバーのうち女性はわずか22%に過ぎないとユネスコがリコールした。
国連機関も次のように呼びかけています。政府はさらなる規制を求める 「倫理的な人工知能」を実現するために。
#生成型人工知能には性差別的な偏見がある可能性があるとユネスコが警告