彼らは優秀な放射線科医を騙します

ニューヨーク州マウントサイナイのアイカーン医科大学が主導したこの研究では、12の国際センターの17人の放射線科医が264枚のX線撮影にどのように直面したかを分析した。 半分は本物だった。残りの半分は合成創作物 GPT-4o や RoentGen などのモデルによって生成されます。結果は憂慮すべきものである。医師が偽の画像を見ていることを知らなかった場合、異常に気づくことができたのはわずか 41% でした。カタログにデジタルトラップが含まれていると警告された後でも、小麦ともみ殻を区別する平均精度はかろうじて 75% に達しました。

混乱の危険性

これらのイメージの存在は、技術的な好奇心だけでなく、 患者の安全に対する潜在的な脅威 そして医療システムの安定性。アルゴリズムによって製造された骨折が本物の骨折と区別できない場合、法的および医学的影響は曖昧な領域に入ります。これらの画像を病院の歴史に注入したサイバー攻撃は、診断を大幅に変更し、不必要な手術を引き起こしたり、さらに悪いことに、人工的な健康画像に置き換えられた実際の病状を無視したりする可能性があります。

この研究の筆頭著者でシナイ山の研究者でもあるミカエル・トルジマン博士は、課題の大きさについて警告する。 「私たちの研究では、これらの X 線写真は、たとえ AI によって生成された画像が存在することを認識していても、放射線科医を騙すのに十分なほど現実的であることが示されました」と Tordjman 氏は説明します。専門家にとって、これは不正訴訟において「高リスクの脆弱性」を生み出し、ハッカーがデジタル記録を操作して「医療記録の信頼性を損なうことで広範な臨床混乱を引き起こす」ことができた場合にはサイバーセキュリティ上の危険をもたらすとしている。

完璧すぎると…疑ってください

興味深いことに、この研究により、人工知能の最大の弱点は、 美的完璧を追求する。人体は非対称で粗く、小さな自然の異常がたくさんありますが、合成 X 線写真ではほとんど疑わしい調和が見られる傾向があります。骨は非常に滑らかに見え、背骨は完全に真っ直ぐで、肺は実際の患者ではめったに見られない対称性を示しています。このシナリオでは、筋骨格系を専門とする放射線科医は同僚よりもいくらか優れた視力を示しましたが、絶対に間違いのない医師はいませんでした。

これらのイメージを作成する言語モデルそのものでさえ、独自の作成に圧倒されます。 GPT-4o や Gemini などのツールは、どの画像がコンピューターで生成されたもので、どの画像が生物学的なものであるかを完全な精度で識別することはできませんでした。この矛盾は完全に生じています。作成者が常に自分の作品を認識しているわけではありません。 「ディープフェイクの医療画像は、完璧すぎるように見えることがよくあります」とトルジマン氏は述べ、血管パターンは「過度に均一」であることが多く、骨折は骨の片側だけに限定され「異常にきれい」に見えると付け加えた。

シールドの病歴

これらの技術が高度化していることを考慮して、科学界は次のような手法を導入することを強く求めています。 デジタル保護対策 単なる目視検査を超えたものです。研究者の提案には、画像メタデータに組み込まれた目に見えない透かしと、キャプチャ時にテストを実行する技術者に関連付けられた暗号署名の使用が含まれています。これらのデジタル「ナンバー プレート」がなければ、医師が画面上で見ているものがテーブル上の患者の解剖学的構造と実際に一致していることを保証することは不可能になります。

今日私たちが胸部や四肢の X 線写真で見るものは、より大きな課題への序章にすぎません。技術は 3 次元イメージングに向けて進化しており、間もなくコンピュータ断層撮影 (CAT) や MRI スキャンに影響を与える可能性があります。 「潜在的に私たちはただ見ているだけなのです」 氷山の一角» トルジマン博士は、日々の臨床実践において現実とシミュレーションが決定的に区別できなくなる前に、教育用データベースと検出ツールを作成することが重要であると主張します。