[Podcast] AI の活用 – トレーニング データの問題

洞察力に富んだ人工知能シリーズのパート 2 では、パートナー ガイ・ブレナープロスカウアーの DC 労働・雇用業務を主導し、カウンセリング、トレーニング、給与公平性グループの共同責任者です。 ジョナサン・スローウィク、同社のロサンゼルスオフィスの労働雇用部門上級顧問は、雇用決定におけるAIトレーニングデータの重要な問題を調査しています。 AI システムが保護された特性を考慮するように明示的にプログラムされていない場合でも、トレーニング データの問題がどのように雇用差別法に関してリスクを引き起こす可能性があるかについて説明します。また、トレーニング データが不十分または代表的ではないために AI モデルが不正確になる可能性についても強調します。したがって、雇用主にとって AI システムの潜在的なバイアスを理解する際には、これらの問題の法的影響が重要になる可能性があるため、必ず注意してください。

ポッドキャストを聞いてください。

ガイ・ブレナー: 「Proskauer Brief: 労働と雇用法の注目のトピック」へようこそ。私は ガイ・ブレナー、ワシントン DC に拠点を置くプロスカウアーの雇用訴訟およびカウンセリング グループのパートナー。そして同僚も加わって、 ジョナサン・スローウィク、ロサンゼルスを拠点とする労働雇用実務グループの上級顧問。これは、人工知能 (AI) の使用について雇用主が知っておくべきことを詳しく説明する複数部構成のシリーズの第 2 部です。採用や昇進などの雇用決定に関して言えば、ジョナサン、今日もお付き合いいただきありがとうございます。

ジョナサン・スローウィク: ここに来ることができて興奮しています、皆さん。

ガイ・ブレナー: このシリーズのパート 1 をまだ聞いていない場合は、もう一度聞いていただくことをお勧めします。AI とは何か、AI が雇用主や人事部門にどのようなソリューションを提供するかについて、有益な背景となることを願っています。 。しかし、そのエピソードの最後で約束したように、AI は雇用主にいくつかの課題と落とし穴ももたらします。このエピソードは、それらの潜在的な落とし穴を取り上げるシリーズの最初のエピソードです。今日は、トレーニング データとそこから生じる可能性のある問題について説明します。それでは、ジョナサン、まずトレーニング データの意味について簡単に説明してもらえますか?

ジョナサン・スローウィク: 確かに。したがって、トレーニング データとは何かを理解するには、ほとんどの AI システムに機械学習の何らかの側面が含まれていることを理解することがまず重要です。ここで言う機械学習とは、AI が非常に大量のデータを取り込み、そのデータのパターンやつながりを分析し、その分析から得た教訓を予測や結論の導きに適用するプロセスのことを指します。新しい文脈。このプロセスは AI のトレーニングと呼ばれ、AI が分析するデータはトレーニング データと呼ばれます。

ガイ・ブレナー: とても役に立つ概要ですね、ジョナサン。機械学習に関して雇用主は何に注意する必要がありますか?つまり、人によっては、人間が行うよりも優れた適切な結果をもたらす、完全に賢明なアプローチのように聞こえるかもしれません。

ガイ・ブレナー: この例自体が AI の魅力を示していると思います。 AI が企業独自のデータや実績に基づいて、その企業で成功する可能性が最も高い人材について明確なガイダンスを提供できるようになれば、雇用主は採用活動を絞り込むことができ、時間と費用を大幅に節約できます。結果を改善します。したがって、その魅力は明らかですよね？しかし問題は、使用されているデータと、それ自体がバイアスを反映しているかどうかです。たとえば、これまであなたの従業員の大半が男性だったり、大半が白人だったり、介護の主な責任を持たない人々だったらどうなるでしょうか?使用されているデータが組織内に潜在するバイアスをどのように永続化する可能性があるかがわかります。

ジョナサン・スローウィク: 右。したがって、これらのケースのいずれにおいても、AI は偏ったトレーニング データセットに基づいて採用の決定を下していることになり、これは組織が多様な候補者を昇進させるという歴史的な失敗を反映している可能性があります。それは、時代の経過に伴う社会の傾向を反映しているのかもしれません。ただし、トレーニング データ セットが特定の人口統計の人々を主に表している場合、または特定の人口統計の人々を表していない場合は、そのバイアスを反映した結果が得られる可能性があります。

ガイ・ブレナー: ジョナサン、「そうそう、簡単にできるのは、トレーニング データに人口統計情報が含まれていないことを確認するだけです」と考えている人がいるかもしれませんね。人種、性別、年齢など、保護されている特性データをすべて削除するだけです。あれ、どうしたの？

ジョナサン・スローウィク: 確かにそれは正しい方向への一歩ではありますが、問題を完全に解決できるわけではないかもしれません。ただし、組織の過去および現在の従業員について、保護された特性と相関する特性が存在する可能性があることを覚えておいてください。したがって、AI モデルが保護された特性を無視することを知っている場合でも、トレーニング データ セットから削除したためにその情報が完全に秘密にされている場合でも、たとえば、大部分が白であるトレーニング データ セットが与えられた場合、男性の場合、以前の従業員や現在の従業員に似た求職者を推薦することになる可能性があります。言い換えれば、たとえ AI モデルが特徴を保護することをまったく考えていなくても、大多数が白人男性であるということです。

ガイ・ブレナー: アルゴリズムによる差別と呼ばれるものについて、よく話題になっています。ニューヨーク市やコロラド州のような条例（コロラド州の条例はまだ発効していない）はどちらも、アルゴリズムによる差別を根絶し防止するために、定期的なバイアス監査を義務付けている。あなたが話していることはその一例でしたか？

ジョナサン・スローウィク: はい、まさに

ガイ・ブレナー: わかりましたが、たとえリスナーがアルゴリズム差別やその類のものに関する法律が制定されている管轄区域にいないとしても、それは彼らがこれについて心配する必要がないという意味ではないことを指摘しておきます。既存の法律は、人間によるものであれ、機械によるものであれ、保護された特性に基づく差別をすでに違法としています。 「AIがそうさせた」と言って自分を守ることはできません。ジョナサン、代表的ではないデータ トレーニングによって AI モデルが狂う可能性がある他の方法にはどのようなものがありますか?

ジョナサン・スローウィク: したがって、過小評価されている潜在的な問題は、十分な量のトレーニング データがない場合、AI モデルが特定のタスクに苦戦する可能性があることだと思います。私が言いたいことを説明するために、昨年、ニューヨーク タイムズのオーディオ ポッドキャスト「ハード フォーク」で取り上げられた、シンプルでユーモラスな例があります。この例では、ChatGPT を動作させる 2 つの異なる世代のエンジンに同じプロンプトを与えました。一方には GPT-4 があり、これは当時このテクノロジーの最も先進的なバージョンであり、ChatGPT の有料加入者が利用できるバージョンであり、他方には GPT-2 がありました。当時は約 3 年前でまだ一般公開されておらず、初期のプロトタイプのものでした。つまり、GPT-4 には GPT-2 よりも追加機能がいくつかあります。たとえば、画像などの生成に使用できます。しかし、おそらく 2 つのエンジンの最大の違いは、GPT-4 が GPT-2 よりもはるかに多くのデータに基づいてトレーニングされたことです。いくつかの推定によると、おそらく 1000 倍のデータがあります。そのような背景から、GPT-4 と GPT-2 には同じプロンプトが与えられ、そのプロンプトは次のとおりでした。「バラは赤、スミレは青」で始まるバレンタイン デー カードを完成させます。 GPT-4 がプロンプトをどのように終了したかを読みたいですか?

ガイ・ブレナー: もちろん。 「バラは赤、スミレは青。私たちの愛は時代を超えています。私たちの絆は真実です。」悪くないよ。

ジョナサン・スローウィク: いや、悪くはない。それはとても美しいです – おそらく、ホールマークカードでそれを見ることができます。少し安っぽいかもしれませんが、それは何よりもプロンプトに関係があるかもしれません。それがGPT-4です。さて、ガイ、GPT-2 の栄誉をやりたいですか?そして、これは、はるかに小さいデータセットでトレーニングされたエンジンであることを忘れないでください。

ガイ・ブレナー: どうぞ。 「バラは赤、スミレは青。私のガールフレンドは亡くなりました。」あまり良くありません。

ジョナサン・スローウィク: 完全ではありません。たぶんとても悪いので良いですか？おそらく、特徴的な素材は少なく、ノベルティショップの素材が多いでしょう。これは明らかに愚かな例であり、もし AI が人事の文脈で同様に不条理な出力を与えたことがあったとしても、それは真剣に受け止められるべきではなく、真剣に受け止められるはずもありません。こんなばかげたものを受け取ったとしても、あなたはそれを無視するでしょう。トレーニング データが不足しているため、より微妙な方法で AI が誤作動しており、それがいかにより問題であるかがわかります。これが何を意味するのかの一例を挙げると、女性や有色人種の場合、顔認識ソフトウェアの精度が低くなる可能性があることを示す学術研究が数多くあります。その考えられる理由の 1 つは、これらのプラットフォームの一部が白人男性の顔で不釣り合いに構成されたデータセットでトレーニングされている可能性があることです。したがって、たとえば、候補者の顔の表情、声のトーン、スピーチパターンを分析するビデオ面接プラットフォームについても同じことが当てはまる場合、そのツールは女性や有色人種に関しては精度が低くなり、偏見がある可能性があります。後から考えると、検出するのはさらに困難になる可能性があり、時間が経つにつれて検出される可能性があります。

ガイ・ブレナー: それは、誰かが答えを持ってきたときに、その答えにどうやってたどり着いたのかを探らずに、ただそれが正しいと思い込んでいた場合、後でそれが何らかの点で欠陥があったことがわかるのとよく似ています。私たちは機械が物事を正しく処理してくれると考えることに慣れていますが、AI ではそのような仮定はできません。電卓じゃないですよね？

ジョナサン・スローウィク: その通り。

ガイ・ブレナー: いわば、いくつかの思考が含まれています。トレーニング データの問題については説明しましたが、次のエピソードでは何を説明するのでしょうか?

ジョナサン・スローウィック: 次のエピソードでは、モデルの不透明度の問題について説明します。そのため、これらの高度な AI プラットフォームの多くは、ブラック ボックスと呼ばれることが多く、内部の仕組みを理解するのが難しい場合があります。次のエピソードで説明しますが、AI システムがブラックボックスであるという事実は、雇用、昇進、その他の雇用決定にそのようなツールを使用する雇用主が認識すべき重大な影響を与える可能性があります。

ガイ・ブレナー: そうですね、その議論を楽しみにしています。そして、聞いてくださった皆様、今日はプロスカウアー・ブリーフにご参加いただきありがとうございます。発展に応じて、この魅力的で常に変化する法律とテクノロジーの分野を常に把握できるように、新しいポッドキャストを録画する予定です。また、Apple Podcasts、YouTube Music、Spotify で私たちをフォローして、労働法に関する最新のホットトピックを常に把握してください。

#Podcast #の活用 #トレーニング #データの問題