企業はAIへの就職面接をアウトソーシングしています。何がうまくいかないのでしょうか？

私n 2024年5月、アダムは、米国を拠点とする食料品チェーンクローガーでUXデザイナーの役割を申請しました（彼は自分のアイデンティティを保護するために彼の名でのみ識別されるように頼みました）。アダムは、Hirevueという会社から返事をしました。彼に簡単な一連の指示をメールで送信した後、「情熱を示す!!」 「ヘッドフォンは使用できません」 – AIベースのHR管理プラットフォームは、オンラインで記録された一方向インタビューを行うように招待しました。

ボットは、彼の仕事の経験について5つの質問をアダムに尋ねました。彼はそれぞれに答えるためにちょうど3分を与えられました。 「私は準備、集中、集中し、不安を抑制し、笑顔を強制して機械の承認を得なければなりませんでした」と彼は回想します。反対側に人間の欠如、彼のウェブカメラとの絶え間ないアイコンタクトを維持する必要性、そして彼の口頭での反応の明白な分析は、彼が「その基準が何であるかを知らずにシステムの基準を満たすか超える必要がある」と感じた彼を悩ませました。

インタビューの終わりに向かって、アダムには、マッチングやメモリゲームなど、「頭脳ティーザー」の質問が提示されました。このソフトウェアは、彼に形、色、シンボルの組み合わせを与え、パターンを暗記するように彼に挑戦しました。 「ブレインティーザーゲームのどれも、その役割とは何の関係もありませんでした」と彼は言い、プロセス全体が不公平で時間の無駄を感じたと付け加えました。彼はテストで97％を獲得しましたが、フォローアップインタビューに招待されませんでした。現在まで、彼はその理由を知りません。

Krogerは、現在、雇用プロセスでアルゴリズムと人工知能を使用しているフォーチュン500企業の98％の1つにすぎません。実際のカナダによる最近の調査によると、HR担当者の87％が現在、雇用の説明の生成から履歴書のスキャン、バックグラウンドチェックの実施、候補者のインタビューまで、雇用漏斗のさまざまな段階でAIを搭載したシステムとツールを使用しています。

Pew Research Centerの2023年のレポートによると、統計は求職者の側で同様に語っています。アダムのように、多くの求職者は、アルゴリズムにアピールしようとするか、感銘を受けたり、彼らに1つになったりしようとして、士気を失い、非人間化し、落胆していると感じています。 「それは私を生き生きとさせ、私のキャリアと私の業界の未来に対する私の最大の恐怖をさらしました」と、自動化された人格評価に会った一人の求職者は語った。 ガーディアン。

多くの雇用主がボットへの雇用などのハイステークスの決定をアウトソーシングしていることを考えると、彼らの恐怖は有効と思われます。数百万人の人間のプロの未来は、データポイントの別の星座のように扱われています。批評家は、アルゴリズムを雇うことは、目標に偏っているか、単にジャンクに不透明であり、候補者に真の害を引き起こし、資格のある人々が仕事を得るのを防ぐことができると警告しています。

a最前線 AI Hiring Revolutionのうち、2004年に設立された会社であるHirevueは、7000万件以上の片道就職インタビューを完了しました。 Hirevueは、候補者のボディーランゲージ、単語の選択、音声トーンの分析を使用して、雇用可能性スコアを生成し、それがクライアントに渡されます。他の人気のあるAI駆動型の雇用ツールには、PlumとHarverが含まれます。PlumとHarverには、志願者の問題解決スキル、人格特性、ソーシャルインテリジェンスを測定するためのゲーミング化されたテストを提供するプラットフォームが含まれます。そして、候補者のソーシャルメディアのフットプリント、オンライン履歴、予測される将来の行動についての隠れた洞察を雇うことを約束するインテリジェンスとバックグラウンドスクリーニングソフトウェアがあります。

これらのWebサイトのマーケティング資料を大いに一目見たことで、圧倒的なメッセージが与えられます。雇用から人間のバイアスを取り除き、民主化し、未開発の可能性を解き放つためにここにいます。彼らの聴衆？自動化と人事チームを通じて人件費を削減しようとしている企業は、マウントのアプリケーションに圧倒されました。しかし、訴訟と批判は、彼らが現在直面していることで、ツールが解決することを約束するのと同じ問題を永続させていることを示しています。

ヒルケ・シェルマンはの著者です アルゴリズム：AIが誰が雇用、監視、宣伝、解雇されるか、そして今すぐに反撃する必要がある理由を決定する方法。彼女は、「企業が履歴書パーサーを使用して、すべての着信アプリケーション（数百万の履歴書）をスクリーニングし、パーサーには欠陥、偏ったキーワード、または適切に機能していない場合、数千人または数万人を差別することができます。」

彼女の本のいくつかのAI雇用ツールをテストしたシェルマンは、そのようなアルゴリズムが統計的ミスファイヤにつながる可能性のある性別や人種などの差別的変数の意味のない相関またはプロキシを開発する傾向を説明しています。 「統計的には、古い高校の野球チームの人々を雇ったので、仕事の多くの人々が同じ趣味を共有しています。だから今、仕事の多くの人は野球をしますが、それは会計士であることとは何の関係もありません。野球をするかどうかは関係ありません。」

HRソフトウェア企業に対するいくつかの訴訟は、プライバシーの懸念、バイオメトリックデータの収集に関するインフォームドコンセントの欠如、または欺ceptiveな慣行に対処していますが、多くの訴訟は差別に焦点を当てています。たとえば、黒人でうつ病と不安を抱いている40歳のデレク・モブリーは、HR技術大手の仕事の日を裁判所に連れて行き、AI主導の応募者の画面化ツールを100以上の仕事で繰り返し拒否し、人種、年齢、障害に基づいて差別を主張していると非難しています。数年前、Amazonの実験的なAI採用システムは、性別のためにプロキシを内面化し、女性を差別しました（最終的には製品を放棄しました）。 LinkedInは、仕事を一致させるアルゴリズムが男性を微妙に支持し、履歴書にリストされているスキルの数やプラットフォーム上のエンゲージメントレベルのような詳細を考慮したときに、同様の計算に直面しました。

Center for Democracy and Technologyによる2020年の調査により、ほとんどのベンダーのWebサイトは、従業員の選択テストが特定のユーザーにアクセスできない可能性があること、または雇用主がテストを受けることができない人に合理的な宿泊施設を提供する法的義務に言及している可能性があることを認めていないことが明らかになりました。多くの一方向インタビューツールはテキストからスピーチへの転写に依存しているため、発話障害のある個人、またはエントリーレベルの仕事を求める留学生などのアクセントを持っている人は、自動化されたシステムが不当に罰せられることを心配しています。対面のインタビューでは、彼らは障害を開示する機会があるかもしれませんが、これは一方向のAIインタビューでは選択肢ではありません。

この要件に対処する少数のベンダーの間でさえ、必要になる可能性のある宿泊施設の全範囲についてはほとんど考慮されていません。シェルマンは、ピメトリクスのケーススタディ（その後Harverに買収されています）を使用して、標準的な雇用アルゴリズムが「高性能」従業員の統計パターンを特定する方法を説明しています。障害のある個人は、歴史的な偏見のために多くの企業で過小評価されているため、アルゴリズムにはこれらの人口統計からのトレーニングデータが不足していることがよくあります。

アルゴリズムバイアスと意思決定の透明性の欠如、または「ブラックボックスAI」は、AIの雇用ツールに関しては、研究者や倫理学者にとって最も差し迫った懸念です。アダムのように、多くの求職者は、キャリアの軌跡を決定する神秘的なシステムに対抗するとき、無力でイライラし、敗北したと感じています。

民主主義技術センターの上級政策顧問であるマシュー・シェラーによると、米国連邦法は通常、企業が使用するAIシステムを開示することを義務付けていません。また、AI雇用ベンダーにシステムの機能や、どのような種類の反バイアステストを実施したかについての詳細を明らかにする必要もありません。場合によっては、AIが履歴書を評価したり、記録されたビデオインタビューを分析するために使用される場合、申請者はその存在を完全に知らない場合があります。その後、ユーザーは、一部のベンダー自身がツールがそれらの決定にどのように到達するかを完全に理解していないという事実にもかかわらず、テクノロジーが適切に機能し、公正な決定を下すというベンダーやクライアント企業からの請求に頼らざるを得ません。

「隠された不可解なアルゴリズムによってあなたのキャリアのコースを推進することは、それらのアルゴリズムが完全に公平だったとしても、ディストピアの状況になるでしょう。そして、アルゴリズムを採用することは公平とはほど遠い傾向があるという証拠がたくさんあります」とシェラーは言います。

aLGORITHMIC HIRING 候補者が自分の潜在能力を実現するのではなく、スキルセットと過去の経験に平らにしたり減少したりする可能性と傾向があります。オンタリオ州の人事専門家協会の最高経営責任者であるジョディ・コヴィッツは、ボットがリーダーシップの可能性の微妙な指標を測定するために必要な感情的知性、判断、批判的思考スキルが欠けていると主張します。 「人々は適応、再スキル、再訓練に対してオープンである必要があります。そして、AIはパターンを検出することができますが、現在、これらの無形資産を見逃しています。これは、リーダーシップの可能性、チームのダイナミクス、および成功する個人の可能性を評価するための本能など、これらの無形物を逃しています」と彼女は言います。

Schellmannの本は、多くの履歴書スキャナーが、そのようなギャップには候補者の実際の資格に関係していないにもかかわらず、多くの履歴書スキャナーがフルタイムの雇用ギャップで候補者を自動的に6か月以上却下することを示す研究を指摘しています。

現在、アルゴリズムの雇用ツールに関する倫理的、法的、プライバシー、およびプライバシーの懸念に対するガードレールと救済策は、パッチワーク法に限定されており、Schererによると、企業によってほとんど無視されています。昨年3月、オンタリオ州は、労働者のための労働者4法である法案149を可決しました。これにより、雇用主は雇用決定におけるAIの使用を開示することを義務付けています。しかし、法律専門家は、「人工知能」や「公開されている求人」などの主要な用語に関する曖昧な用語と明確な定義の欠如を呼びかけています。

ニューヨーク市の地方法144- AI採用ツールのバイアステストを義務付け、企業に応募者への使用を開示することを要求する2023年の法律 – 同様の批判を受けました。支持者は、AIの雇用ツールの狭い定義、執行の欠如、議員や罰金の採用者を介して雇用者を介して就職していることを指摘しています。同様の批判は、米国の平等雇用機会委員会によって実施されたAIバイアス緩和ガイドラインで開始されており、その一部は現在ドナルドトランプ政権の下で削除されています。この切除は、2025年1月の行政命令に続いて、連邦政府機関にAI規制をロールバックするよう指示しました。

ガードレールが少ないと、AIの雇用システムはさらに不透明で差別的になる可能性があり、申請者が不当に拒否されたと感じた場合、さらに少ない手段の選択肢を残します。競争の場を平準化するために、求職者は順番に、履歴書やカバーレターを作成するための生成的なAIツールを使用し始め、さらには一度に数千の雇用に適用されるツールを使用し始めました。

シェルマンはロボットサークルジャークを非難します。 「誰もがこのAIラットレースに参加し、仕事の説明にあるものをコピーするだけで、採用はどうすれば意味がありますか？それは本当に心配であり、地平線上に明確な解決策はありません。」

彼女は、申請やインタビューなしで未来について警告しています。 「私たちはちょうど分類されています。「この人はこれを行うべきであり、これはそれをするべきです」と、アピールプロセスはありません。」採用は、マシンを評価する機械の閉鎖ループになる可能性があります。これは、人ではなくアルゴリズムがキャリアパスを決定する場所です。