「フィルターバブル」：アルゴリズムの暴走を防ぐための探求

映画ファンやテレビファンの多くは、お気に入りのストリーミング サービスが過去の視聴習慣に基づいて良い映画を推薦してくれると喜びます。アルゴリズムの時代へようこそ。残念ながら、これらの推薦モデルは、あなたが考えもしなかった娯楽の選択肢を提供してくれるかもしれませんが、代償を払う必要があります。通常、それらは芸術と娯楽の世界に対する狭い見方を強化します。平均的な映画ファンにとってそれは大した問題ではないかもしれませんが、そのようなアルゴリズムが時事問題に関するニュース記事を提案したり、医療問題に関するあなたの意見を形成したり、医療専門家の決定に影響を与えたりするために使用されると、実際の問題を引き起こす可能性があります。

Facebook などのソーシャル メディア サイトは、ユーザーと同じ視点を持つストーリーを提供することで、ユーザーの偏見や信念体系を強化していることを強く示唆する証拠があります。リベラルな傾向のあるユーザーは、リベラルな視点を持つ新しいコンテンツを読むように促される可能性が高く、保守的な視点を持つユーザーには、自分の視点に一致するストーリーが提供される可能性が高く、事実上、「フィルター バブル」と呼ばれることもあるエコー チャンバーが形成されます。

このフィルターバブルが実際に存在するかどうかを判断するために行われた独立した研究が、Facebook ユーザーのデータ分析に基づいて、最近 Science と Nature に掲載されました。 彼らは見つけた 「プラットフォームとそのアルゴリズムは、人々が見る情報、オンラインでスクロールやタップに費やす時間、ニュースイベントに関する知識にかなりの影響力を及ぼしました。Facebookはまた、ユーザーがすでに同意している情報源からの情報をユーザーに表示する傾向があり、人々の世界観を強化する政治的な「フィルターバブル」を作り出しました。」一方、このエコーチェンバーへの露出は、ユーザー間の分極化を促進しなかったようです。

ヘルスケアの偏見

ポール・セラート、メイヨー・クリニック・プラットフォーム、シニアリサーチアナリスト兼コミュニケーションスペシャリスト

過去に指摘したように、多くの医療機関で使用されているデータセットも偏っており、同様の強化問題を抱えている可能性が高い。その結果、患者ケアに影響を与える多くの不均衡が生じている。2022年、BMJ Health & Care Informaticsは、 レビュー アルゴリズムが偏向する可能性のあるいくつかの方法を概説し、それによって有色人種、女性、社会的経済的に低い層の人々を含む特定の人口層に対する偏見を強化します。

こうした偏見の最も顕著な例の 1 つは、カリフォルニア大学バークレー校公衆衛生学部などの Ziad Obermeyer 氏とその同僚によって記録されたものです。彼らは、保険医療の受給資格を決定するリスクベース契約の対象となっていた 43,000 人以上の白人患者と 6,000 人以上の黒人患者を特定しました。彼らは、兆候と症状に基づいて、各リスク スコアで黒人患者は白人患者よりも病状が重いことを発見しました。しかし、医療を受ける資格を決定するために使用された商用データ セットは、1 年間に発生した総医療費に基づいてリスク スコアを割り当てていたため、黒人患者の疾病負担が大きいことを認識していませんでした。

この推論の問題点を認識するのに、アルゴリズムに関する深い知識を持つデータ サイエンティストは必要ありません。BMJ HCI のレビューで私たちが指摘したように、「この指標を医療ニーズの代理として使用するのは誤りでした。黒人のコストが低いのは、医療へのアクセスが少ないためである可能性があり、その原因は医療制度に対する不信感と医療提供者による直接的な人種差別にある可能性があります。」

残念ながら、このような社会的固定観念の強化は医療の分野では依然として続いています。より前向きな見方をすれば、多くの関係者がこうした偏見を少しずつ取り除くために役割を果たしています。 健康AI連合は、公平で代表的な AI を推進するために設立され、メイヨー クリニック、マサチューセッツ総合病院ブリガム、プロビデンス、アドベントヘルス、カリフォルニア大学ヘルス システム、ノースカロライナ大学ヘルスなど、多くの著名な医療機関が参加しています。

これらの医療提供者は、いくつかの有名なテクノロジー企業や連邦政府機関と連携することで流れを変え、よりバランスのとれた公平なエコシステムを作り出すことができます。

これ ピース メイヨー・クリニック・プラットフォームのジョン・ハラムカ医学博士と、シニアリサーチアナリスト兼コミュニケーションスペシャリストのポール・セラートが執筆しました。ブログをご覧になるには、 ここをクリック。