人工知能が女性の医療診断をさらに失敗させないようにする方法 | テクノロジー

ニュージャージー州の病院で退屈していたダイアン・カマチョさんは、自分が苦しんでいる症状についてChatGPTに語り、考えられる医学的診断のリストを作るように頼んだ。 彼女は呼吸困難、胸痛、そして心臓が「止まって動き出す」ような感覚に悩まされました。 彼 チャットボット OpenAI 不安症が最も可能性の高い診断であると彼に言いました。 カマチョ氏は再び同じ症状の男性の予後を尋ねたが、人工知能が彼に肺塞栓症、急性冠症候群、または心筋症を患う可能性を警告したが、不安の痕跡がなかったことに驚いた。 これがカマチョが数週間前に公開した方法です Xネットワーク上で （以前はツイッター）。

ChatGPT のような生成 AI は、大量のデータをアルゴリズムと組み合わせ、機械学習を通じて意思決定を行います。 データが不完全であるか、代表的ではない場合、アルゴリズムに偏りがある可能性があります。 サンプリング時に、アルゴリズムによって系統的なエラーが発生し、一部の応答が他の応答よりも選択される可能性があります。 こうした問題に直面して、 昨年12月に欧州人工知能法が承認された 倫理的、透明性、偏見のない基準に基づいてツールが開発されることを優先します。

基準によれば、医療機器は高リスクとみなされ、厳格な要件を満たす必要があります。つまり、高品質のデータの保持、その活動の記録、システムの詳細な文書化、ユーザーへの明確な情報の提供、人間による監督措置、および高レベルの監視が必要です。堅牢性、安全性、精度を備えた、 欧州委員会が説明したとおり。

の 起動する ポル・ソラ・デ・ロス・サントス大統領 ヴィンサー・アイ、企業が欧州の条件に準拠できるように監査する責任があります。 「私たちはアルゴリズム、モデル、人工知能システムの品質管理システムを通じてこれを実現しています。 言語モデルの診断が行われ、最初に損傷があるかどうかを確認し、それをどのように修正するかを確認します。」 さらに、企業が偏ったモデルを使用している場合は、免責事項で警告することを推奨しています。 「7 歳児に適さない薬を配布したい場合、警告しないことは考えられません」とソラ デ ロス サントス氏は説明します。

医療環境では、画像診断テストやプログラミングにおいて人工知能 (AI) ツールが一般的になりつつあります。 これらは、医療従事者の作業のスピードアップと正確性の向上に役立ちます。 バルセロナのサン・パウ病院の放射線診断部長であり、健康に適用されるデジタル技術の専門家であるジョセップ・ムヌエラ氏は、放射線医学ではそれらは「補助システム」であると指摘します。 「アルゴリズムは磁気共鳴装置内にあり、画像の取得にかかる時間を短縮します」とムヌエラ氏は説明します。 したがって、アルゴリズムの導入により、20 分間かかる MRI がわずか 7 分に短縮されます。

偏見は、性別、民族性、人口統計に基づく医療の違いにつながる可能性があります。 Databricks Spain のソリューション アーキテクトである Luis Herrera 氏は、胸部 X 線撮影にその一例があり、次のように説明しています。 具体的には、女性の診断精度ははるかに低かったのです。」 ジェンダーバイアスは古典的なものだとムヌエラ氏は指摘します。「それは人口バイアスとデータベースに関係しています。 アルゴリズムはデータベースに入力またはクエリされますが、過去のデータベースが性別に偏っていれば、応答にも偏りが生じます。」 ただし、「人工知能に関係なく、健康に関するジェンダーバイアスは存在します。」と彼は付け加えています。

偏見を避ける方法

バイアスを避けるためにデータベースはどのように再トレーニングされますか? バルセロナのサン・ジョアン・デ・デウ病院イノベーション部門の調整エンジニアであるアルナウ・ヴァルス氏は、ヨーロッパでの新型コロナウイルス感染症検出のケースで、中国人と開発したアルゴリズムを使用してどのように行われたかを説明している。は 20% 減少し、偽陽性も発生しました。 新しいデータベースを作成し、ヨーロッパ人口の画像をアルゴリズムに追加する必要がありました。」

ユーザーとして偏ったモデルに立ち向かうには、ツールがもたらす答えを対比できなければならない、とエレーラ氏は指摘します。「企業に透明性を要求するだけでなく、AI のバイアスについての認識を高め、批判的思考の使用を促進する必要があります。 そして情報源を検証してください。」

専門家は、ChatGPT を医療目的で使用しないことに同意します。 しかし、サバデル（バルセロナ）にあるパルク・タウリ大学病院のリサーチ・アンド・イノベーション研究所の腎臓学グループの所長であるホセ・イベアス氏は、チャットボットが導入されればツールは前向きに進化するだろうと示唆している。 医療データベースに問い合わせてください。 「私たちはそれに取り組み始めています。 これを行う方法は、OpenAI システムで独自のアルゴリズムとエンジニアを使用して患者データベースをトレーニングすることです。 このようにして、データのプライバシーが保護されます」と Ibeas 氏は説明します。

ChatGPT テクノロジーは医療環境において特定の場合に役立ちます。Ibeas 氏は次のように認めています。「解剖学的または数学的な構造を生成するその能力は総合的です。 彼は分子構造に関して非常に優れたトレーニングを受けています。 そこでは実際に発明されたことはほとんどありません。」 イベアス氏は他の専門家らの意見に同意し、人工知能が医師に取って代わることは決してないと警告するが、「人工知能について知らない医師は、知っている医師に取って代わられるだろう」と指摘している。

フォローできます EL PAÍS テクノロジー で フェイスブック y バツ または、ここからサインアップして私たちのメッセージを受け取りましょう ニュースレターセマナル。

_