AI はほぼ男性によって設計されています – これを修正する方法は次のとおりです

2日目です 女性と科学の未来 ロンドンの王立協会でのカンファレンスに出席しましたが、私の生活を楽にしてくれるはずの AI 文字起こしソフトウェアが常に誰かの名前をタイプミスし続けるため、講演者に集中することがますます難しくなってきています。ジュリーについて言及するたびに、ジュリアンが入力されます。これは人工知能に関するセッションであり、特に女性が最新の AI テクノロジーからどのように消去されているかについてのセッションです。

これは、AI アルゴリズムには、性別によるバイアスを含め、トレーニングに使用されたデータセットのバイアスがかかるという、今ではよく知られている考えよりもはるかに大きなものです。

その代わり、コンピューター科学者のウェンディ・ホールが議長を務めるこの会議セッションの焦点は、より根本的な問題、つまり社会全体に変革的な影響を与える新しいAIテクノロジーが、ほぼ男性だけによって設計されているという事実に対処しようとしている。

テクノロジーは常に圧倒的に男性の分野です。英国では、コンピューター サイエンスを学んでいる女性のうち、女性はわずか 25 パーセントです。しかし近年、生成AIが開花する一方で、シリコンバレーはますます女性に対して敵対的になっている。

アラン・チューリング研究所で倫理と責任あるイノベーション研究を担当するデイビッド・レスリー氏は、「過去2年間で後退が起きている」と語る。 「トランプ政権が科学分野の女性に世代間ダメージを与えたかどうかという問題には議論の余地がありません。私たちは後ろ向きな考え方の時代を生きています。」

昨年、ドナルド・トランプ米国大統領は、いわゆる目覚めたAIを対象とした大統領令を出し、米国国立標準技術研究所に対し、AIのリスク管理枠組みを改訂して「誤った情報、多様性、公平性、包括性、気候変動への言及を排除する」よう勧告した。

パネリストの1人であるデータサイエンティストで元人工知能科学特使のラマン・チョードリー氏は、イーロン・マスク氏が就任してチームを解雇する前はツイッター社で倫理と説明責任を担当していた。彼女は、覚醒したAIの概念は、トランプ大統領の命令以前にシリコンバレー内の女性蔑視的な態度から生まれたと指摘する。

ホール氏に女性のいないAIについて説明するよう求められたところ、数人のパネリストはすでにそこに到達していると主張した。 「私はフロンティア AI の世界にいます。それは女性のいない AI の世界です」とチョードリー氏は言います。これは、新技術の社会的影響を研究しているレイチェル・コルディカット氏も同様の意見です。 「AIに女性がいない世界がどうなるかを考えてみると、それが現時点での現状だと思います。それはまったく空想ではありません。」

言うまでもなく、これは重要です。衝突試験用のダミー人形からオフィスの空調、宇宙飛行士の宇宙服、そして大部分の医学研究に至るまで、男性の体とニーズに合わせて技術が開発されてきた長い歴史があります。これはジェンダーデータギャップとして知られており、その影響は煩わしいものから生命を脅かすものまで多岐にわたります。

AI は、私たちが行っている仕事から、子供の教育方法、治療できる病気に至るまで、あらゆるものに影響を与えるでしょう。しかし、現在、ベンチャーキャピタルの資金のうち女性に資金が提供されているのはわずか 2% だけだとチョードリー氏は指摘します。一方、女性の健康状態に向けて行われるヘルスケアの研究とイノベーションは 1% 未満です。 「8人の億万長者ではなく、80億人のためにテクノロジーを活用する必要がある」とコルディカット氏は言う。

何をすべきでしょうか？現在の AI モデルには何百年にもわたる偏ったデータが組み込まれているため、それらを修正することは不可能だとコルディカット氏は考えています。 「代替モデルが必要です」と彼女は言います。これは、これらのモデルが行うことに焦点を移すチャンスでもあります。 「それは、人々と地球への配慮を優先するモデルを育成することです。」

企業がAIシステムの説明責任と公平性を高めることを支援するヒューメイン・インテリジェンスという非営利団体の共同設立者であるチョードリー氏は、現在のAI開発の多くが、AIが雇用、さらには人類にもたらす実存的リスクに焦点を当て、誤った危機感に基づいて構築されていることが問題の一部だと考えている。もしあなたの家が火事になったという話なら、「『母のジュエリーはどうなったの？』とは思わないでしょう」と彼女は言う。人々が時間がないと感じると、多様性を含め、無関係だと感じるものをすべて捨ててしまうだろうと彼女は言います。

次世代に関しては、若者に社会的利益のために AI を開発するよう奨励する場合、AI が開発される経済的および政治的枠組みに取り組む必要があるとレスリー氏は言います。「基本的なことから始め、インセンティブを変えることから始める必要があります。」

最終的には、より広範で多様な考え方を含めるために、AI の文脈におけるインテリジェンスの定義自体を再考する必要があるかもしれません。 AI の定義方法を含め、AI に関する独自の考え方の多くは、1950 年代にニューハンプシャー州のダートマス大学で開催された影響力のある会議に端を発しています。 「インテリジェンスの定義はダートマス会議から生まれました」とホールは言う。 「ちなみに、全員男性でした。」