過去数年間、研究はAIツールが医師を自分の仕事でより良くする方法を説明してきました。それは彼らが癌の斑点を見つけ、診断をより速くすることを可能にし、場合によっては、誰が合併症のリスクがあるかをより正確に予測するのに役立ちました。
しかし、新しい研究では、AIとの協力には隠されたコストがある可能性があることが示唆されています。
Lancet胃腸科と肝臓学に掲載された研究では、大腸内視鏡検査中に前癌成長を見つけるように設計されたAIツールをわずか3か月使用した後、医師は自分で成長を見つけるのに著しく悪化したことがわかりました。
これは、AIツールに依存することで、テクノロジーなしで基本的なスキルを実行する医師の能力を侵食する可能性があるという最初の証拠です。これは、「デスカー」として知られる現象です。
「これは双方向のプロセスです」と、ロンドン大学病院の胃腸科医であるOmer Ahmad博士は、研究と一緒に社説を発表したと述べました。 「私たちは、その出力に影響を与えるAI入力を提供しますが、それも私たちの行動に影響を与えるようです。」
この研究は、医学における多くのAI試験のように始まりました。ポーランドの4つの内視鏡検査センターの医師は、大腸内視鏡検査を行っている間に疑わしい成長にフラグを立てるAIツールにアクセスし、リアルタイムで箱を描きました。他のいくつかの大規模な臨床試験により、この技術は、内視鏡師のパフォーマンスの広く受け入れられている指標である、医師の前癌成長の検出率を大幅に改善していることが示されています。
その後、過去の研究とは異なり、研究者はツールが奪われたときに何が起こったかを測定しました。
技術が導入される3か月前に、医師は大腸内視鏡検査の約28％で成長を発見しました。現在、検出率は約22％に低下しました。ベースラインを大きく下回っています。
これは観察研究でした。つまり、テクノロジーに答えることができないことを意味します 引き起こされた パフォーマンスの低下。効果には他の説明があるかもしれません。たとえば、医師は、事前にAIツールが導入された後、大腸内視鏡検査の数のほぼ2倍を実行しました。
しかし、専門家は、机の効果があるという事実はほとんど予想外ではないと述べた。この現象は他の分野で十分に文書化されています。たとえば、パイロットは、オートパイロットの時代のスキルを磨くために特別なトレーニングを受けます。
「私は大きな疑問があるだろうと思う：だから何？それは重要だ？」カリフォルニア大学サンフランシスコ大学の医学部の議長であるロバート・ワッハター博士は、「A Giant Leap：AIがどのようにヘルスケアを変革しているか、そしてそれが私たちの将来にとって何を意味するのか」の著者であると述べました。
一方では、古いスキルを時代遅れにする新しいテクノロジーの無害な例がたくさんあると、ワッカー博士は言いました。たとえば、聴診器の発明のおかげで、多くの医師は、1700年代に一般的だったように、患者の心臓と肺のない肺を調べるのに苦労します。
しかし、アフマド博士にとって、AIは人間からの長期的な監視が必要であるという点で明確です。アルゴリズムは特定の瞬間のためにトレーニングされ、世界が周囲に変化するにつれて、それらは異なるパフォーマンスを発揮します – 時には悪化することもあり、意図したとおりに機能することを確認するために監視とメンテナンスが必要です。オーバーヘッド照明の変化のような予期せぬ要因により、AI.Resultsが「完全に間違っていて、Haywire」になることがあると彼は言いました。
医師は、これらの可能性から患者を保護するためにプロセスに含まれることになっています。
「スキルを失ったら、どうやってエラーを見つけますか？」アフマド博士が尋ねた。
ツールが完璧であったとしても、Wachterは、すべての健康システムでAIツールが利用できず、それを使用することに慣れている医師が新しい雇用主にそれなしで機能するように求められる可能性がある場合、現在の移行期間中は患者にとってデスクリルの危険である可能性があると警告しました。
そして、スキルの侵食は数千の手順からのデータを見ている人には明らかですが、ワッハター博士は、個々の医師が自分の能力の変化に気付いたことを疑ったと言いました。
それはまだ完全には明らかではありません なぜ AIの1つの小さな視線追跡研究を使用している間、医師のスキルは非常に速く低下する可能性があります。AIを使用している間、医師は画像の端をあまり見る傾向があり、スキャンのレビューに関与する筋肉記憶の一部がツールを使用して変更されたことを示唆しています。
アフマド博士は、ヘルパーに数ヶ月依存した後、各スキャンを萎縮させた認知的スタミナが萎縮した可能性があると述べた。
いずれにせよ、医学教育の専門家とヘルスケアのリーダーは、その効果と戦う方法をすでに検討しています。 UC San Diego Healthのような一部の医療システムは、最近シミュレーショントレーニングに投資しました。これは、医師がAIなしでスキルを鋭く保つ手順を実践するのを支援するために使用される可能性があります。
ボストンのベスイスラエルディーコネスメディカルセンターのAIプログラムのディレクターであるアダムロッドマン博士は、一部の医学部は学生の最初のトレーニングのためにAIを禁止することも検討していると述べました。
AIツールを使用して3か月で、研究に含まれる経験豊富な医師のスキルを侵食する可能性がある場合（平均して、医師は約27年間練習していました）、それらのスキルを開発し始めた医学生や住民はどうなりますか？
「私たちはますますそれを呼んでいます 一度もない-ロッドマン博士は言った。
（Teddy Rosenbluthは、医療の誤報に特に焦点を当てたニューヨークタイムズのヘルスニュースをカバーするニューヨークタイムズのレポーターです）
#隠されたコストAIツールは医師を仕事で悪化させていますか