採用アルゴリズムによる差別は本当の問題です

予測的人工知能（AI）雇用システム（AHSS）は、雇用主が毎日求職者を選別および最終候補に登録するために使用されます。

しかし、AI雇用システムは雇用主に時間とコストの節約を約束しますが、労働市場ですでに疎外されている人々に対する差別を可能にし、強化し、深めることができます。

リスクのあるグループには、女性、高齢労働者、障害のある人、第二言語として英語を話す人が含まれます。

2024年、オーストラリアの組織の62％が、最新の責任AIインデックスによると、採用中にAIを適度または広範囲に使用していました。

これらのシステムの多くは、AIを使用しています。

• CVSを分析または「解析」します
• 申請者の性格、行動、または能力を評価する実施評価
• 「Robo-interViews」を実施

一部のAHSは、スカーフを着用している応募者を差別することがわかっていますが、障害のある人によるアクセスを可能にするために合理的な調整を行うことができない人もいます。

最もよく知られているケースでは、Amazonが開発したAIシステムは、履歴書に「女性」という言葉を使用した求職者の応用を格下げすることを学びました。このシステムは、ほとんどが男性が支配するハイテク産業の履歴書で訓練されていました。

これらの既知の問題にもかかわらず、これらのシステムが使用されている場合、理論的に反対する、理論的に反対するように、実質の理解にはかなりのギャップが存在します。

新しい研究 Journal of Law and Society 、オーストラリアの雇用主によるAHSSの使用を初めて調査します。これらのシステムが実際に使用される方法は、差別の深刻なリスクを生み出すことがわかっていました。

この研究は、オーストラリアの採用担当者、AIの専門家と開発者、キャリアコンサルタント、オーストラリア市場の2つの著名なAHSベンダーからの公開された資料とのインタビューに基づいています。

AHSSの訓練に使用されるデータは、現在および歴史的差別を埋め込むリスクがあり、海外で開発されたシステムがオーストラリアの人々の多様性を反映していない可能性があることがわかった。

アルゴリズムモデルに組み込まれている機能の多くには、性別、障害、年齢などの属性のプロキシが含まれています。

たとえば、雇用史のギャップがアルゴリズムモデルの変数として使用される場合、女性は子供の世話をするために雇用を奪った可能性が高いため、「ジェンダー」のプロキシである可能性があります。

差別は、雇用主によるシステムの設定方法からも生じる可能性があります。

たとえば、質問に答えるための時間制限を設定すると、英語を話す背景以外の求職者が不利になる場合があります。

また、雇用主が他の求職者との平等な立場で障害のある人がシステムがアクセスできるようにしない場合、差別が発生する可能性があります。

重要なことに、この調査では、AHSSを使用する雇用主は、コンピューターアクセスやデジタルリテラシーなどのリソースを欠く疎外されたグループに対する新しい形式の構造差別を作成して、オンラインアプリケーションを完了できることがわかりました。

最後に、AHSSは雇用主が意図的な差別に従事する新鮮な機会を提供します。

米国の最近のケースでは、イチューターグループの雇用システムは、55歳以上の女性の求職者と60歳以上の男性を自動的に拒否するように構成されました。

「アルゴリズムの強化された差別」が発生すると、多くの問題があります。

インタビューを受けた一人のリクルーターが認めたように、「求人申請は文字通り、新しい仕事で自分の人生を変える人の試みです」。

差別的なAHSは、前例のない速度と規模で害を及ぼす可能性があり、不利な立場にあるグループを労働力から体系的にロックする能力を持っています。

オーストラリアの政府は、この種の差別から求職者を保護するためのギャップに対処するために、差別法を審査および改革する必要があります。

組み込まれた大規模な言語モデルを含む、AIシステムの仕組みを中心に、より大きな透明性が必要です。

トレーニングデータは代表的で文書化する必要があります。

雇用主はまた、組織で展開されたAHSSと、大規模な害を引き起こす可能性をよりよく理解する必要があります。

これらのシステムのカスタマイズ、運用、監督を担当する責任者に包括的なトレーニングを提供する義務を負う必要があります。

最後に、そして最も根本的に、雇用主がAHSSを使用するときの平等権に対する重要なリスクのこの研究の発見は、これらのシステムをまったく使用すべきかという疑問を提起しますか？

必要な法的保護が行われる前にAHSSを使用することを許可する必要がありますか？

システム自体とそれらとの相互作用だけでなく、世界の労働市場における歴史的、構造的、交差的不利益への影響についても、より深い理解を深める前に、それらを使用する必要がありますか？