ユネスコ、生成人工知能におけるジェンダーバイアスを警告

生成人工知能ツールの基礎となるMetaとOpenAIの大規模な言語モデルは、ジェンダーバイアスを伝えていると、国際女性デーの前夜にユネスコが木曜日に発表した調査結果が警告している。 女性の権利。 OpenAIのGPT 2およびGPT 3.5モデル（後者はChatGPTの無料版の中心となっており、競合他社MetaのLlama 2と同様に「女性に対する明白な偏見」を示している）と国連はプレスリリースで警告している。 「現実世界の差別はデジタル領域に反映されるだけでなく、デジタル領域でも増幅されます。»、ユネスコ通信情報担当事務次長タウフィク・ジェラッシ氏は強調する。

2023 年 8 月から 2024 年 3 月まで実施された研究によると、これらの言語モデルは女性名詞を「メゾン»、«家族” または “子供たち」という言葉と男性名詞の方が関連性が高いのに対し、商業»、«給料” または “キャリア研究者らはまた、これらのインターフェースに、さまざまな出身地や性別の人々についての物語を作成するように依頼しました。その結果、「少数文化の人々や女性についての物語は、より反復的であり、固定観念に基づいていることが多い」ことがわかりました。

したがって、生成されたテキストの少なくとも 30% では、イギリス人男性は教師、運転手、または銀行員として表現される可能性が高く、イギリス人女性は売春婦、モデル、またはウェイトレスとして表現されます。 ユネスコのデジタル政策とデジタル変革の専門家、レオナ・ベルダデロ氏は、こうした企業は「すべてのユーザーを代表できていない」と嘆く。

こちらもお読みください人工知能: ChatGPT は意味のない文章で何時間もブロックを解除します

人工知能は現実世界での不平等を増大させる

これらの人工知能アプリケーションは一般大衆や企業によってますます使用されるようになり、「何百万もの人々の認識を形作る力がある»、国連事務局長オードリー・アズーレー氏はこう述べています。 「そのため、コンテンツ内にほんのわずかでも性別による偏見が存在すると、現実世界での不平等が大幅に拡大する可能性があります。» と彼女はプレスリリースで続けている。

私たちのエピソードを聞いてください

こうした偏見に対抗するために、ユネスコは、この分野の企業がより多様なエンジニアのチーム、特により多くの女性を擁することを推奨しています。 世界経済フォーラムの統計によると、世界中で人工知能に携わるチームメンバーのうち女性はわずか22%に過ぎないとユネスコがリコールした。 国連機関はまた、政府に対し、「倫理的な人工知能»。