女性は介護、男性は倉庫 – 人材紹介会社のチャットボットが物議を醸す仕事の推奨を行う

オーストリア雇用庁 (AMS) は、新しい AI チャットボット「Berufsinformat」で進歩的であることを望んでいましたが、それは失敗しました。 プラットフォーム上の求職者にキャリアやトレーニングに関する適切な推奨事項を与える代わりに、仮想コンタクトは何よりも決まり文句や固定観念を再現します。

AMS が最近チャットボットをリリースしたとき、大きな誇りがありました。 このような方法で AI を使用する欧州初の労働市場行政であることが、出版中に強調されました。 しかし、成功しているキャリア情報サービスはおそらく違うようです。

ありきたりのチャットボットはキャリアのヒントには不向き

「Berufsinformat」はChatGPTに基づいています。 しかし、残念なことに、この AI ソリューションは、AMS に最小限の調整を加えて、納税者のお金で賄われた 30 万ユーロという高額で販売された単なる既製品のようです。 専門家によれば、このような単純なAIはキャリアのヒントを提供できるほど十分に開発されていないため、現在批判の雨が降っている。 コードには重大なセキュリティ ホールやエラーもあるようです。

多くのレポートは、AI が実際にはまだ準備ができていないことを示しています。 AMS によると、「Berufsinformat」は推奨事項において男性ユーザーと女性ユーザーを区別すべきではありませんが、これは実際には機能しません。 AI に性別に基づいて仕事をおすすめしてもらうと、男性には女性とは異なるおすすめが表示されます。

AI は性別に関する固定観念を再現する

女性には、ヘルスケア、（美容）ケア、クリエイティビティ、ファッション、デザインのキャリアが提案されますが、IT、貿易、販売などのキャリアも提案されます。 フューチャーゾーン 実験から報告されました。 しかし、ソフトウェア開発者になるよう最初に勧められたのは、同じ年齢で同じ教育を受けた男性です。 次に、レストランの専門家、倉庫作業員、シェフ、会計士などの候補が来ます。 ここではクリエイティブ部門や看護職でのキャリアについては言及されていません。

また、 X ユーザー は、優秀な高校卒業資格を持つ 18 歳の男性または女性に職業の推薦を尋ねた際のチャットボットの興味深い結果について報告しています。 なぜなら、男性のことになると、「職業情報提供者」はまずITや小売業のキャリアについて話すからです。 一方、女性の場合は、哲学やジェンダー研究を学ぶのが適しています。

誰が子供の世話をしますか? 少なくともその男ではない

子育てに関しては、「Berufsinformat」も古典的なロールモデルのファンのようです。 たくさんの 女性 この国の子どもたちともっと関わりたいと思ったら、AMS AI は別のことを推奨します。

あなたが男性または女性として、これから家庭を築こうとしていて、仕事と家庭のバランスをとるためのアドバイスを求めた場合、女性はパートタイムで働くことを勧められるでしょう。 フューチャーゾーン 報告。 柔軟な労働時間も男性に提案されていますが、ここではパートタイムについては言及されていません。 さらに、男性がフルタイムで子供の世話をするという選択肢はまったくないようです。

AIの固定観念の根源は社会にある

もちろん、AI に対する固定観念はどこからもたらされるわけではありません。 ChatGPT のようなプログラムは、広範なデータセットと多数の公的に入手可能なテキストを使用してトレーニングされます。 社会には根深い不平等、偏見、性差別的なパターンがあるため、これらの要素はそのようなプログラムのトレーニング データにも反映されています。

デジタル空間における女性像の固定化を防ぎ、差別を避けるためには、積極的に対抗していく必要がある。 人々は新しいテクノロジーを客観的なものとして誤って認識しているため、これは重要です。 これらが固定観念を再現すると、人々の心にさらに定着する可能性があります。