インターネットの固定観念による労働市場: 女性は男性よりも若く、資格が低い |テクノロジー

固定観念は現実の一部を捉えているのでしょうか、それとも社会的に歪められているのでしょうか?科学者のグループはそれを検証したいと考えていましたが、 ジェンダーバイアスの事例を見てみる 年齢関連。これを行うために、彼らは、Google、Wikipedia、IMDb、Flickr、YouTube からの 140 万枚の画像とビデオ、およびインターネットからの数十億の単語でトレーニングされた 9 つの言語モデルを分析しました。彼らの結論は、「労働力において女性と男性の間に系統的な年齢差はないが、さまざまな職業や社会的役割において女性の方が男性よりも若く見られていることがわかった」である。彼らもそれを見て、 人工知能 (AI) ツール向け年配の男性のプロフィールは女性のプロフィールよりも適格です。

女性は、ジェンダーエイジズムとして知られる、若く見られなければならないという絶え間ないプレッシャーに直面している。さまざまな研究によると、年配の女性は就職やキャリアアップにおいて差別されており、その言葉と関連付けられる可能性が高いことが示されています。 チカ 女性（年齢や職種に関係なく）の場合、この言葉は チコ 「この年齢差は、より高い地位と報酬を持つ職業を表すコンテンツで最も顕著です。私たちは、主要なアルゴリズムがこのバイアスをどのように増幅するかを実証しています」とスタンフォード大学のダグラス・ギルボー氏と彼の同僚は記事の中で次のように主張している。 本日雑誌に掲載されました 自然世界最高の科学の先鋒。

たとえば、Google 画像は 25 歳から 34 歳までの年齢範囲の医師を表しているのに対し、女性医師は 18 歳から 24 歳までであることがわかりました。映画専門ポータル IMDb では、女優の画像のほとんどは 20 代であり、現在では年齢が上がっていますが、俳優は主に 40 代か 50 代です。

研究者らは、生物学的年齢が固定観念の正確さを評価するために使用できる客観的で測定可能な基準点であるため、画像内の女性の表現を研究することを選択しました。 「この研究の関連性は、検証可能な客観的なアンカー、特に米国国勢調査のデータに対するこのバイアスを厳密に定量化したことにあり、これによりステレオタイプの正確さに関する物議を醸す議論を克服することができます」と、研究には参加していない科学ディレクター兼共同創設者であるエリス・アリカンテ財団のヌリア・オリバー氏はSMCスペイン代理店への声明で述べた。

Googleの影響

実験の1つで、ギルボー氏らはボランティアのグループに、特定の職業に就いている男女の平均年齢を推定するよう依頼した。参加者の中には、話す前に Google 画像検索をするよう求められた人もいました。その結果、Google ツールを使用した人は、各職業の女性の年齢推定値が大幅に低くなりました。

最も広く普及している固定観念には社会集団に関する観察可能な情報が含まれている、つまり、それらには何らかの真実が含まれていると主張する人たちがいます。現実を歪曲する誇張だと主張する人もいる。働く女性の年齢に関するこの認識は現実に適応しているのでしょうか？いいえ、米国の国勢調査を調査した結果、研究者らは「女性が男性より若い職種があるという統計的証拠はない」ことに気づきました。

イタリアのフィエゾレにあるヨーロッパ大学研究所政治社会科学部のアナ・マカノビッチ氏は、「これらの結果は、ジェンダーによる年齢差別、つまりオンラインコンテンツにおける年配の男性に対する差別ではなく、年上の女性に対する差別の包括的かつ大規模な証拠を提供するものである」と語る。彼はこの研究には関与していない。 「ジェンダーエイジズムは、女性の若さと魅力を評価するが、男性の経験と成熟を評価する社会規範に関連している。したがって、Guilbeaultらの結果は、これらの社会規範が存在し、さまざまな種類のオンラインのビジュアルコンテンツやテキストコンテンツに永続していることを示している。」

AIは偏見を永続させる

研究の第 2 フェーズで、Guilbeault 氏のチームは、これらと同じバイアスが ChatGPT などの大規模言語モデル (LLM) にも存在することを示しました。これらのツールにとって、年上であることは男性であることと強く結びついています。そして、これらの AI が男性と女性の履歴書を評価するように求められると、若い女性の同僚よりも年上の男性の履歴書に一貫して高い評価を与えます。 「私たちの研究は、インターネット上とそれを仲介するアルゴリズムにおいて性別と年齢がどのように歪められているかを示し、不平等との戦いにおける重大な課題と機会を明らかにしました」と著者らは書いている。

マカノビッチ氏にとって、年齢や性別に関する偏った認識が AI モデルによって捉えられるだけでなく、積極的に再現されるという事実は、「OpenAI のような企業は、モデルのトレーニング データやトレーニング手順からバイアスを排除することに多大な労力を費やしていると主張しているため、驚くべきことです。」

「憂慮すべきことは、そのような偏見が、大きな社会的権威を持つ自動システムに組み込まれると、象徴的なものとなるだけでなく、例えば医療保険へのアクセス、賃貸住宅や仕事など、人々の日常生活に実際の影響を与える差別になるということです」と、レイ・ファン・カルロス大学の視聴覚コミュニケーションと広告の教授、マリアン・ブランコ・ルイスはSMCスペイン代理店への声明の中で述べている。

アルゴリズムのバイアスが社会にどのように伝わるかを実証することは、結果をもたらすはずです。マドリッド自治大学コンピュータ言語学研究所の研究者であるパブロ・ハヤ・コル氏は、このように考えています。「私の意見では、これらのテクノロジーの安全で倫理的かつ非差別的な使用を保証する欧州人工知能規則によって定められた義務に沿って、アルゴリズムの監査を促進し、AIシステムの透明性を要求することが必要です」と彼はSMCスペインに語った。