世界

MIT研究者がAIバイアスに対して「アルゴリズムの正義」を求めている理由

アイデア53:59AIバイアスに直面した「アルゴリズムの正義」に対する集会の叫びJoy Buolamwiniは人工知能研究の最前線にいて、人種的偏見、性別の偏見、有能主義を通じて、AIシステムが害を引き起こしたいくつかの方法に注目しています。彼女は、AIに説明責任を果たすために働く組織であるアルゴリズムジャスティスリーグの創設者です。「公民権のための上昇するフロンティアは、アルゴリズムの正義を必要とするでしょう。AIは、特権的な少数ではなく、人々のために、そして人々のためでなければなりません」とBuolamwiniは書いています。MITの大学院生としての彼女の研究により、彼女はMicrosoft、IBM、Amazon、およびその他のハイテク大手を呼びかけました。その顔認識システムは、有色人種を特定できませんでした。最悪の結果は、暗い肌の雌に関連していました。さらに悪いことに、この欠陥のある顔認識ソフトウェアは、企業や法執行機関によってすでに使用されていました。彼女は、創造的なコンピューティングプロジェクトに取り組んでいたときに、顔の検出の限界を最初に発見しました。「顔の検出は、白いマスクを着るまで顔を実際に検出しませんでした。ハロウィーンの時間でした。たまたま白いマスクがありました。白いマスクを引っ張り、白いマスクの顔が検出されます。 それ以来、彼女はアルゴリズムバイアスを修正するための激しい擁護者であり、それが対処されなければ社会を心からコストする問題だと言います。 これは、2025年2月にデューク大学のサンフォード公共政策で配信されたJoy BuolamwiniのRubenstein講義からの抜粋です。「手を見せてください。男性の視線を聞いた人は何人ですか？白い視線？ポストコロニアルの視線？ 「そのレキシコンに、私はコード化された視線を追加します。それは本当に力の反映です。優先順位、好み、そして時には意図的ではなく、テクノロジーに組み込まれている偏見を形作る力を持っていますか？「私は最初に、アートのインスタレーションに取り組んでいる大学院生としてコード化された視線に遭遇しました…。文字通り、私の暗い肌を検出するために白いマスクを着用しなければなりませんでした。私の友人、それほどではありません。これはコード化された視線との最初の出会いでした。「TEDXプラットフォームの白いマスクでコーディングのストーリーを共有しました。多くの人がそれを見ました。 「TEDXのプロフィール画像を撮影し、さまざまな企業のオンラインデモを通してそれを実行し始めました。そして、一部の企業は私の顔をまったく検出しなかったことがわかりました。 「それで、それはブラックヒストリーマンスです [the lecture was recorded in February 2025]。ブラックパンサーからキャストの一部を走らせることに興奮しました。場合によっては、検出がありません。他のケースでは、誤解があります...あなたはアンジェラバセットを持っています - 彼女はこの写真で59歳です。 IBMは18〜24と言っているので、すべてのバイアスが最悪ではないかもしれません。 「私を心配させたのは、架空のキャラクターを超えて動き、AI、特にAIフィールドの顔認識が世界に現れている方法について考えることでした。「誤った逮捕、非合意に基づいたディープフェイクなどの明示的なイメージのようなものにつながります。特に、ソーシャルメディアプラットフォームの厚意により数十億の写真を削ったClearView AIのような企業がいる場合は、すべての人に影響を与えます。「それで、私たちがAI開発のこの段階のどこにいるのかを考えると、私はしばしばエッコードされたものを考えます。エコードされたものは、AIシステムによって非難され、有罪判決を受け、搾取され、害を受けた人を表しています。」2019年1月10日、ラスベガスコンベンションセンターにあるHorizon Robotics展示の密集した群衆には、人工知能と顔認識技術が使用されています。 （Getty Imagesを介してDavid McNew/-）「私は、顔の認識の誤認のために誤って逮捕されたときに妊娠したポーチャ・ウッドラフのような人々のことを考えています。彼女は彼女が拘束されている間に収縮をしていると報告しました。 「これは問題があることを知らなかった場合ではありません。正しいことです。しかし、あらゆる種類の有害なバイアスを持つために何度も何度も示されているシステムを使用し続けることは故意の過失でした。これらの識別のアルゴリズムは持続します。「もう1つの方法は、監視のアルゴリズムがあることです。 「あなたが休日や他の場所のために家に帰っているので、あなたの何人かは、空港の顔のスキャンが忍び寄るのを見始めている可能性が高いです。そして、監視の手が伸び続けています。「そして、あなたは搾取のアルゴリズムを持っています。有名人はあなたを救いません。明るい肌はあなたを救いません。私たちは、生成的なAIシステムの台頭、深い偽りを作り、人々になりすます能力を見てきました。 ダウンロードしてください アイデアポッドキャスト エピソード全体を聞くために。*透明度と長さのために編集された抜粋。このエピソードはによって作成されました ショーン・フォーリー。 #MIT研究者がAIバイアスに対してアルゴリズムの正義を求めている理由