AIの危険に最もさらされている女性はAIを設計する部屋にはいない

April Hicke は、業界のジェンダー多様性の向上に特化したテクノロジー人材採用プラットフォームである Toast の創設者兼 CEO です。

カナダは自らを人工知能の世界的リーダーとしての地位を確立しています。私たちには才能、研究インフラ、そして組織としての野心があります。私たちがまだ持っていないのは、AI エコノミーがそれを構築するすべての人にとって確実に機能するようにするための計画です。

ここに、全国的な AI に関する議論で十分に語られていないギャップがあります。AI による破壊に最もさらされている労働者は、圧倒的に女性です。それらの AI システムを設計している人々の圧倒的な数はそうではありません。その非対称性は構造的な欠陥です。 AI経済のアーキテクチャがまだ描かれている最中にカナダが今この問題に取り組まなければ、公平性の問題だけではない。競争力に問題が生じますが、その数字は驚くべきものです。国際労働機関 (ILO) の最新の研究概要によると、女性が主体の職業は、男性が主体の職業に比べて生成 AI にさらされる可能性がほぼ 2 倍です。女性の仕事の 29 パーセントが危険にさらされているのに対し、男性の仕事は 16 パーセントです。

労働市場への影響を追跡した別の人類調査報告書でも同様の結論に達し、最も危険にさらされている職業の労働者は不釣り合いに女性であることが判明した。最も高い自動化リスク レベルでは、その差はさらに顕著になります。女性が支配する役割の 16 パーセントが最も危険にさらされているカテゴリーに分類されるのに対し、男性の役割はわずか 3 パーセントです。カナダを含む高所得国では、女性の 9.6 パーセントが AI への曝露が最も高いカテゴリーに属しているのに対し、男性では 3.5 パーセントであると ILO が調査しています。カナダの女性は男性に比べて、自動化によるリスクが約 3 倍高くなります。

関連: AI が労働市場に及ぼす複合的な影響

理由は構造的なものです。女性は秘書、受付係、給与事務員、会計アシスタントなどの事務、管理、ビジネスサポートの役割に集中しています。これらは、タスクが日常的で、体系化可能で、AI の照準に直接当てられる役割です。建設業、製造業、肉体労働の分野では男性が大半を占めており、物理的な作業を自動化するのは依然としてはるかに困難です。一方、世界の AI 労働力に占める女性の割合はわずか 22% に過ぎず、AI 主導のスタートアップ企業のベンチャー キャピタル資金のうち女性主導のベンチャーに投じられる資金は 2% 未満です。

その不在の影響が製品に現れます。アマゾンは、10年にわたる男性優位の採用決定について訓練を受けてきた同社が女性の履歴書を組織的に格下げしていたことが判明したため、社内の採用AIを廃止した。トレーニングデータが男性に偏っているため、医療AIツールは女性では精度が低いことが示されています。これらのシステムを構築している人々がそれを使用している人々を反映していない場合、システムはその不在を反映しています。バイアスは構造的なものです。

このようなアーキテクチャ上の偏見は、構築中の製品にはとどまりません。それは、誰がトレーニングを受けるか、誰がアクセスできるか、そして誰が置き去りにされるかを決定します。カナダでは、その差は目に見えて拡大しつつあります。 Future Skills Center がカナダ人 5,800 人以上を対象に実施した 2024 年の調査では、男性の 53 パーセントが職場で使用される AI ツールにある程度、または非常に精通していると回答しているのに対し、女性の 47 パーセントは男性の 53 パーセントであることがわかりました。女性よりも男性の方が、雇用主から AI 指導を受けていると報告しています。これは、トレーニングのギャップが単なるパイプラインの問題ではなく、すでに労働力として働いている女性に対して組織内で現在起こっていることを意味します。

雇用主が AI リテラシーに不均等に投資すると、既存の不平等を反映するだけでなく、不平等をさらに悪化させます。 AI によって追放されるリスクが最も高い女性は、AI とともに働くための備えを備えている可能性も最も低いです。カナダは、世界でトップクラスの AI 研究開発エコシステムの 1 つであると同時に、業務に AI を導入している企業が 4% 未満の国でもあります。私たちは株式なしで加速に資金を提供しています。私たちは、誰がそこに加わるのかを尋ねることなく、人材パイプラインを構築しています。

カナダは人材の半分だけでは競争力のある AI 経済を構築することはできません。女性経営の企業はカナダの GDP に 1,500 億ドル貢献し、150 万人を雇用しています。意図的な介入がなければ、AI は男女間の賃金格差を増大させることになります。

チェックボックス以上の表現が必要です

カナダが今できることは 3 つあります。これらの推奨事項は、人種、障害、在留資格に関連する障壁など、複雑化する障壁に直面している女性に特に緊急に適用されます。女性では、データのギャップがさらに大きく、行動を起こさないことによる被害がさらに深刻になります。

まず、雇用、業績評価、昇進、報酬などの従業員の意思決定に影響を与える AI ツールを導入する前に、性別ごとに分けた影響評価を義務付けます。 AI システムが性別を超えてどのように機能するかを示すことができない場合は、AI システムを大規模に導入すべきではありません。

第二に、AI 研究開発への投資と同じペースで、同じ緊急性で女性の AI スキルアップへのアクセスに資金を提供します。カナダが AI の加速に投資する 1 ドルごとに、投資によって生み出されるスキルへの公平なアクセスへの対応が求められます。

第三に、AI ガバナンス、倫理委員会、連邦 AI 諮問機関において、チェックボックスではなく条件として女性の代表を義務付けることです。これらの部屋で行われる決定は、通常排除されている女性を含む私たち全員が継承する経済を形作ることになる。そうした選択をする際には、彼らも含めるべきです。

ILOは、AIが女性の仕事に与える影響はあらかじめ決まっているわけではないと指摘している。カナダは、責任を持って主導する価値観と組織的能力を備えた世界クラスの AI エコシステムという珍しいものを構築しました。 AI 経済のアーキテクチャはまだ設計中です。問題は、万人向けにデザインできるかどうかです。

上記の記事で表明された意見と分析は著者のものであり、必ずしも BetaKit またはその編集スタッフの立場を反映するものではありません。明瞭さ、長さ、スタイルを考慮して編集されています。

注目の画像提供: Unsplash。写真提供：Christina @ wocintechchat.com