世界

大学が学生の成功を予測するために使用するアルゴリズムは人種的偏見がある可能性がある

大学で学生の合格率を判断するために一般的に使用されている予測アルゴリズムは、黒人やヒスパニック系の学生に対して人種的偏見を持っている可能性がある、と本日発表された新しい研究が明らかにした。 AERAオープン。 デニサ・ガンダラ（テキサス大学オースティン校）、ハディス・アナヒデ（イリノイ大学シカゴ校）、マシュー・アイソン（ノーザンイリノイ大学）、ロレンツォ・ピッキアリーニ（イリノイ大学シカゴ校）が実施したこの研究では、予測モデルは白人学生とアジア人学生の潜在的な成功を過大評価する傾向があることも判明した。 「私たちの研究結果は、予測モデルが黒人やヒスパニック系の学生に対しては精度が低く、体系的に誤りが多くなることを示しています」と、テキサス大学オースティン校教育学部の助教授で研究の共著者であるデニサ・ガンダラ氏は述べた。 これらのモデルは、黒人学生とヒスパニック系学生の不合格をそれぞれ 19% と 21% の確率で誤って予測しているのに対し、白人グループとアジア系グループの偽陰性率はそれぞれ 12% と 6% です。同時に、これらのモデルは白人学生とアジア系学生の成功をそれぞれ 65% と 73% の確率で誤って予測しているのに対し、黒人学生とヒスパニック系学生の偽陰性率はそれぞれ 33% と 28% です。 「私たちの研究結果は、困ったパターンを明らかにしました。大学生の成功を予測するために一般的に使用される特徴を組み込んだモデルは、人種的に少数派のグループに対して悪い結果を予測することになり、多くの場合不正確です」と、イリノイ大学シカゴ校の産業工学助教授で共同執筆者のハディス・アナヒデ氏は述べた。「これは、教育現場における予測分析の固有の偏見に対処する必要性を強調しています。」 クレジット: アメリカ教育研究協会 この研究では、米国教育省の国立教育統計センターが収集した10年間にわたる全国的な代表データ（15,244人の学生を含む）が使用された。 研究結果は、依然として限界はあるものの、統計的手法を使用して偏見を軽減することには潜在的な価値があることも示している。 「私たちの研究ではさまざまなバイアス緩和技術をテストしましたが、異なる公平性の概念間での予測結果や精度の差異を完全に排除できる単一のアプローチは存在しないことがわかりました」とアナヒデ氏は語った。 高等教育機関は、入学、予算、学生の成功への介入など、さまざまな決定に役立てるために、学生の成功を予測する機械学習や人工知能アルゴリズムにますます注目するようになっています。近年、これらの予測モデルが社会的格差を永続させる可能性があるという懸念が高まっています。 「大学がデータを活用するようになるにつれ、予測モデルをその偏りと潜在的な結果に注意を払って設計することが不可欠だ」とガンダラ氏は述べた。「機関の利用者は、データに反映された歴史的差別を認識し、人種差別による社会的不利益を被ってきたグループを不利に扱わないようにすることが極めて重要だ」 研究の著者らは、この研究結果の実際的な意味合いは大きいが、予測結果がどのように使用されるかによって決まると指摘した。モデルが大学入学の決定に利用される場合、同じ人種カテゴリーの過去の学生の成功率が低いことがモデルによって示された場合、人種的に少数派の学生の入学は拒否される可能性がある。高等教育の観察者らはまた、予測が教育追跡につながり、黒人やヒスパニック系の学生がそれほど難しくないと見なされるコースや専攻を追求するよう促す可能性があると警告している。 一方、偏ったモデルは、恵まれない学生への支援を増やすことにつながる可能性がある。人種的に少数派の学生が成功すると誤って予測することで、モデルはそれらの学生により多くのリソースを向ける可能性がある。それでも、ガンダラ氏は、少数派の学生について、成功の可能性が低いかのように扱い、欠陥のある物語を作らないように実践者は注意する必要があると指摘した。 「私たちの調査結果は、アルゴリズムの偏りの可能性についてエンドユーザーを教育する教育機関の重要性を示しています」とガンダラ氏は言う。「認識があれば、ユーザーは個々の学生の予測を文脈に沿って解釈し、より情報に基づいた決定を下すことができます。」 彼女は、政策立案者は、予測分析の設計、予測結果の偏り、およびアプリケーションを含め、予測分析の使用を監視または評価するための政策を検討する可能性があると指摘した。 詳しくは： ブラックボックスの内側：大学生の成功予測における人種グループ間のアルゴリズムの偏りを検出し、軽減する、 AERAオープン （2024年）。DOI: 10.1177/23328584241258741…