「リスクは、私たちがそれを間違って解釈することです」

脳スキャンを備えたepaeen画面。イラストのための写真誰かが癌のような病気にどの程度のリスクを抱えていますか？または心臓発作？ Delphi-2Mシステムはそれを予測できます。しかし、それは私たちにとって本当に便利ですか？それともリスクはありますか？「私は思った 読んだとき：別の前戯モデル。すべてのAIイノベーションの2％のみが実際にヘルスケアで使用されているため、調査によると。多くの場合、革新は実践に適していません。 「それが、Ii-Ethieklab Reaihlの内科学的な発見者であり共同設立者であるMichel Van Genderenが、Erasmus MCとTu Delftのコラボレーションを語っていることです。Van Genderenと彼の同僚は、ヘルスケアのAI分野における世界保健機関（WHO）に助言しています。 「道徳的なルールがない場合、ヘルスケアにAIを採用することは間違っています。安全で倫理的でなければなりません。」解釈する現在開発されているツールは、誰かが癌、糖尿病、心臓病、その他多くの障害などの疾患を発症するかどうか、そしていつ発症するかどうか、そしていつ発症するかを評価します。このシステムは、最大1,000人の病気を予測できると研究者は言います。彼らによると、それは予防、診断、治療にとって重要です。Vu AmsterdamのMark Hoogendoorn教授は、たとえば結腸癌の可能性など、疾患を予測するAIモデルも構築しています。彼は熱心ですが、批判的です。 「一部の病気では、それはかなりうまくいっていますが、他の病気ではありません。」どうすればそれらの予測を確実に解釈できますか、ヴァンジェンデンは不思議です。 「70人の女性、または少数派グループの誰か、または20人の人と同じように70人の男性にとっても同様に機能することを保証できますか？それは、モデルで何かをすることができることではなく、私たちがそれにどのように対処するかです。Michel Van Genderen、Arts and AI Advisor in HealthcareVan Genderenは、医師がAIモデルを使用できるようになるまでにはまだ長い道のりがあると警告しています。 「私たちが絶対に余裕がないのは、AIモデルに基づいて決定を下し、患者がまだ死んでいるということです。何かが間違っていると解釈されているからです。」Internist-Intesivistは、AIで突然内側の曲がりを奪いたいと思うようです。 「それは不可能です。それは人間の生活に関するものです。それはモデルで何かをすることができるのではなく、私たちがそれに対処する方法です。」年齢と性別欧州分子生物学研究所（EMBL）、ドイツの癌研究センター、コペンハーゲン大学の専門家がAIツールを開発しました。人の病歴は、喫煙やアルコール消費などのライフスタイルに関するデータと組み合わされています。しかし、肥満、年齢、性別も。Hoogendoornがモデルと予測力のBAIをより深く見ると、彼は主に年齢と性別を見ます。そして、それはすでにAIなしで起こっています。 「たとえば、長期にわたって10年にわたって、モデルはそれほど良くなっていません。将来のいくつかのことは予測するのが困難です。」Delphi-2Mは平均0.76の精度スコアを達成し、1.0は完全な予測に対応します。長期的には、たとえば10年以上の予測では、平均スコアは0.7です。0.7が本当に十分に良いと思いますか？、Van Genderenは不思議です。 「私は治療するか、治療しないのですか？それらは非常に難しい議論です。これは人間の生活に関するものです。」天気予報Van Genderenによると、AIモデルには多くのバイアスもあります。 「それを実証する無数の研究があります。システムは差別を促進します。」例として、彼は妊娠している黒人女性の痛みが少ないというAIの結論に言及しています。Delphi-2Mを共同開発したEmblディレクターのEwan Birney教授は、それが予測であることを強調しています。 「天気に少し似ています。だから確実ではありません。」Van Genderen：「もちろん非常にスマートなテクノロジーですが、そのようなデータセットの特性を理解し、それが本当に良いことを保証することができなければなりません。最終的には、医師と患者の間の信頼関係についてもあります。」財産バーニーは心配を理解しています。 「このモデルは、短時間の間隔で確かに優れています。医師は、近い将来に起こることにしばしばより信頼を持っています。」研究者は、AIモデルが最大の影響を与えることができる場所と見なされることを望んでいます。彼はまた、ケアの計画を例として言及しています。 「アムステルダム、ライデン、ロッテルダム、または他の場所に行くべきMRIスキャナーの数を決定できること。」ヴァンジェンデンは慎重なままです。 「Delphi-2MはOpenaiの言語モデル、Chatgpt。中国語モデルのDeepseekが同じことを行っています。300の中国の病院は最近それを始めました」と彼は言います。 「入力されたすべてのデータが会社の財産になります。彼らは今、または20年後に何をするつもりですか？保険会社に尋ねます。それも非常に基本的な質問です。データをどこに保存したいですか？」 #リスクは私たちがそれを間違って解釈することです