健康

人工知能の性別バイアスはどれほど危険ですか？：e-health com

人工知能（AI）は、意思決定によく使用されます。しかし、これらの決定が基づいているデータベースが歪んでいる場合はどうなりますか？データサイエンティスト教授博士は、SRH FernhochschuleのChristian Prinzの技術的および社会的結果をもたらす可能性のある性別固有のバイアスを述べています。 SRH Fernhochschuleのデータサイエンスと人工知能の教授であるMolecular Medical Doctor、Christian Prinz教授 - モバイル大学はAIを中心に教え、研究しています。彼にとっては明らかです。AIは、訓練されたデータと同じくらい客観的です。問題：このデータの多くは、社会的偏見を反映しています。これは薬で特に明確になります。調査によると、女性は男性よりも平均してEKGを長く待っていることが示されています。彼らの症状は、特に男性の心臓発作の症状とは異なる場合、精神的によりも頻繁に分類されます。そして、これは、心臓発作の診断をサポートするためにそれらを使用するために、これらの研究データでAIを訓練するときの結果に影響を与えます。 データは嘘をつきません。または？ 「既存のデータは常に基礎です。バイアスが含まれている場合、バイアスは予測される予測を生成します。これは、データをよく見ないと気付かれないことがよくあります」とプリンスは説明します。したがって、科学者によると、AIを制御不能にフィールドに任せた場合、そのデータベースが非常にオーバーホールされているため、AIの社会的に前向きな発展に再びリセットが再び作成されることがよくあります。彼の研究では、クリスチャン・プリンツは医療データの性差とアルゴリズムの決定のリスクを扱っています。この分野から、彼は具体的な例を提供します：女性は吐き気、腰痛、疲労を訴えます：間違いなく心臓発作であるが、しばしば見落とされている症状。 「AIは、男性が過剰に表現されており、女性の症状が「非定型」と見なされるデータレコードに基づいているため、そのようなケースが悪化することが多いことがよくあります」とプリンツは述べた。 アルゴリズムの不利な点 性別バイアスは、医学だけでなく、他の分野でも明らかです。大規模な国際的なオンライン小売業者は、体系的に恵まれない女性であるため、申請者ツールを停止しました。 AIは、古いアプリケーションからの用語と定式化を評価しました - ほとんどが男性による - 特に肯定的です。同様の資格を持つ女性の分類は少なくなりました。バイアスはデータの問題だけでなく、モデリングの問題でもあります。 「KIは、データからパターンを引き継ぐだけでなく、開発者の考え方も再現しています」とプリンスは言います。これは、特に生成AIの場合に特に重要です。「たとえば、ChatGptがプログラミングに役立つ場合、多くの場合、固有の歪みを持つコードフラグメントを引き継ぎます。これらは実行されます。」 正確ですが、間違っています：バイアスとノイズ 予測エラーは、バイアス（歪み）とノイズ（ランダム性）の2つのカテゴリにほぼ分割できます。 「良い写真はダーツを提供します。右上隅に10回雇うと、非常に正確ですが、正しくありません。これはバイアスです。矢印が中央の周りに散らばると、ノイズです」とプリンスは説明します。 「データの多様性が不可欠です」 バイアスを完全に除外することはできません。しかし、それを認識して減らすための効果的な措置があります。技術的には、公平性メトリック、de-biasメソッド、または説明可能性ツールは、AIがどのように決定を得るかを理解できるようにするのに役立ちます。組織的には、学際的なチーム、監査、倫理ガイドラインが必要です。そして社会的には、より多くの教育と責任が必要です。「重要な要素もデータ品質です」とプリンツは強調しています。 「AIに歪んだまたは不均衡なデータを供給する場合、差別的な結果について驚かないでください。データの多様性が不可欠です。」ただし、SRH Fernhochschuleの教授によると、データにデータを表示する必要があることがさらに重要です。 正義の問題 人工知能の性別バイアスは、限界現象ではありません。それは人生の多くの領域に影響を与え、本当の結果をもたらす可能性があります：たとえば、女性が「非定型」症状のために時間内に治療されない場合。または、資格のある申請者がアルゴリズムによって整理されている場合。「しかし、テクノロジーは私たちの敵ではありません」とプリンスは言います。彼は確かです：AIは、それが正しく使用されれば、意思決定をより客観的かつより良いものにするのに役立ちます。これには、既存の不平等を認識し、新しいシステムに反映されないことが含まれます。これが正義のツールになる唯一の方法です。アンプの古い偏見ではありません。 人工知能の性別バイアスとは何ですか？ ジェンダーバイアスは、性別に基づいたデータまたは決定の体系的な歪みを示します。トレーニングデータは社会的不平等を反映しているため、このバイアスは人工知能でしばしば発生します。たとえば、男性が主に医療データ記録で表されている場合、AIは典型的な女性の症状をより悪く認識しています。 ChatGPTなどのアプリケーションAISまたは音声モデルも偏見を引き継ぐことができます。たとえば、リーダーシップを持つ関連する男性、ケアの女性によって。 バイアスは、AI開発のすべての段階で忍び寄る可能性があります。 •データ収集：特定のグループが過小評価されている場合•データ処理：誤った仮定が実行された場合•モデルトレーニング：アルゴリズムが既存のパターンを強化する場合•申請：人間の質問なしに決定が下された場合 公正なAI開発の目的は、これらの歪みを認識し、名前を付け、最小化することです。 詳細情報 https://www.mobile-university.de/tw-digitalisierung/gender-bias-in-der-kuenstlichen-intelligenz/…