次回血液検査を受けるとき、X線、 マンモグラム、 または 大腸内視鏡検査、人工知能（AI）アルゴリズムが、医師がそれを見る前でさえ、最初に結果を解釈する可能性があります。
わずか数年の間、AIは世界中の病院や診療所に急速に広がりました。最近によると、1,000を超える健康関連のAIツールが米国食品医薬品局（FDA）が使用することを許可されており、3人に2人以上の医師がある程度使用していると言っています。 調査 アメリカ医師会によって。可能性は並外れています。 AI-特に、自分で推論し、適応し、行動できるAIエージェントの形で – 患者のメモを起草することにより、医師のワークロードを明るくします チャートの概要、より標的療法による精密医療をサポートし、人間の目が見逃す可能性のあるスキャンとスライドの微妙な異常をフラグします。昨年のノーベル化学賞につながったAI駆動型タンパク質構造の予測と設計など、新しいプロセスを通じて薬物と薬物ターゲットの発見を迅速化することができます。 AIは、予約のスケジュール、質問への回答、副作用のフラグを立てることにより、患者をより速く、よりパーソナライズされたサポートを提供できます。候補者を臨床試験に一致させ、健康データをリアルタイムで監視し、臨床医と患者に早期に警告し、合併症を防ぎ、結果を改善するのに役立ちます。
しかし、医学におけるAIの約束は、責任を持って構築され、使用されている場合にのみ実現されます。
今日のAIアルゴリズムは、パターンを認識し、予測し、さらには決定を下す強力なツールです。しかし、それらは絶対に、すべてを知っているオラクルではありません。いわゆる人工的な一般情報の伝道者が示唆しているにもかかわらず、彼らは人間の知能を一致させる寸前でもありません。少数の最近の研究は、可能性だけでなく落とし穴も反映しており、医療AIツールが患者を誤診できる方法と、AIで医師自身のスキルがどのように弱体化するかを指摘しています。
デューク大学のチーム（私たちの一人を含む） テスト アルツハイマー病患者の脳MRIの腫れとマイクロ出血を検出することを目的としたFDAクリアされたAIツール。このツールは、専門家の放射線科医がMRIでこれらの微妙なスポットを見つける能力を向上させましたが、誤ったアラームも提起し、しばしば無害なぼかしを危険なものと間違えました。このツールは役立つと結論付けましたが、放射線科医は最初にMRIを注意深く読んでから、ツールをセカンドオピニオンとして使用する必要があります。
これらの種類の調査結果は、私たちが見たツールに限定されていません。使用するAIツールを独立して評価している病院はほとんどありません。多くの人は、ツールがFDAによってクリアされたからといって、ローカル設定で機能すると仮定していますが、これは必ずしも真実ではありません。 AIツールは、さまざまな患者集団では異なる動作をしており、それぞれに独自の弱点があります。そのため、AIツールを実装する前に、ヘルスシステムがデューデリジェンスと質の高いチェックを行うことが不可欠であり、その地元の環境で機能し、臨床医を教育することを確認します。さらに、AIアルゴリズムの両方と、人間との相互作用方法の両方が時間の経過とともに変化し、元FDAコミッショナーのロバートカリフに 衝動 現実の世界で信頼性と安全性を保つために、医療用AIツールの市販後監視を絶えず監視しています。
別の最近では 勉強、ヨーロッパの胃腸科医には、大腸内視鏡検査中にポリープを発見するための新しいAI支援システムが与えられました。このツールを使用して、彼らは最初、より多くのポリープ（がんになる可能性のある薄い成長）を発見しました。しかし、医師がAIシステムなしで大腸内視鏡検査に戻ったとき、AIを使用する前よりも癌前のポリープが少ないことを検出しました。なぜ正確には明確ではありませんが、この研究の著者は、臨床医がAIに非常に依存している可能性があると考えています。この「デスキル」のこの現象は、別のものによってサポートされています 勉強 これは、コンピューター化されたエイズに依存していると、人間の視線が末梢視野をスキャンする可能性が低くなる可能性があることを示しました。医療慣行を鋭くするためのツールそのものは、おそらくそれを鈍らせていました。
AIは、批判的に使用されていない場合、間違った情報を伝播するだけでなく、それを事実確認する能力を侵食することができます。それはGoogle Maps Effectです。かつてメモリでナビゲートしていたドライバーは、車の声を盲目的に追跡するために慣れているため、基本的な地理的認識を欠いていることがよくあります。今年の初め、研究者は、多様な年齢層や教育的背景にわたって600人以上の人々を調査し、誰かがAIツールを使用するほど、批判的な考えの能力が弱くなることを発見しました。これは「認知オフロード」として知られており、臨床医によるAI使用とどのように関連しているかを理解し始めたばかりです。
続きを読む： なぜタクシーの運転手はアルツハイマー病のリスクが低いのですか？
これはすべて、すべての分野のように、医学のAIが人間の仕事を増強するときに最適に機能することを強調しています。医学の未来は、医療提供者をアルゴリズムに置き換えることではなく、人間の判断を研ぎ澄まし、達成できることを増幅するツールを設計することです。医師や他のプロバイダーは、AIが間違っているときに測定できる必要があり、必要に応じてAIツールなしで作業する能力を維持する必要があります。これを実現する方法は、医療AIツールを責任を持って構築することです。
さまざまなパラダイムの上に構築されたツールが必要です。プロバイダーを再び見て、代替品を比較検討し、積極的に関与し続けるために微調整するものが必要です。このアプローチは、インテリジェントチョイスアーキテクチャ（ICA）として知られています。 ICAを使用すると、AIシステムは、それを取得するのではなく、判断をサポートするように設計されています。 「ここにあるのはここにある」と宣言する代わりに、ICAツールがエリアを強調し、「この地域を注意深くチェックする」とプロンプトするかもしれません。 ICAは、医学が依存しているスキルを拡大します。これは、臨床的推論、批判的思考、人間の判断です。
インド最大の民間医療システムであるアポロ病院は、最近ICAの使用を開始しました 道具 心臓発作を防ぐために医師を導く。以前のAIツールは、各患者に単一の心攻撃リスクスコアを提供していました。新しいシステムは、患者がどのリスク要因に対処するかを知っているように、そのスコアが彼らにとって何を意味するのか、そしてそれに貢献したもののよりパーソナライズされた内訳を提供します。これは、医師が自治を引き継ぐことなく仕事で成功できるようにする穏やかな微調整の例です。
AIがすべての答えを持っているかのように、AIを転倒する誘惑があります。医学では、命を救うためにこれらの期待を和らげなければなりません。 AIツールの有無にかかわらず働くように医学生を訓練し、すべての正しい答えを持つ専門家ではなく、AIをセカンドオピニオンまたはアシスタントとして扱う必要があります。未来は、人間とAIエージェントが一緒に働いていることです。
臨床医のスキルを弱めることなく、以前に医学にツールを追加しました。聴診器は耳を交換せずに増幅します。血液検査は、病歴や身体検査の必要性を排除することなく、新しい診断情報を提供します。 AIを同じ基準に保持する必要があります。新製品が医師の観察力を低下させたり、決定的ではない場合、プライムタイムの準備ができていないか、間違った方法で使用されています。
新しい医療AIについては、臨床医をより思慮深く、またはそれ以下にするかどうかを尋ねるべきです。それは二度目の外観を奨励したり、ゴムの切手を招待したりしますか？私たちが能力を置き換えるのではなく鋭くするシステムのみを設計することを約束する場合、私たちは両方の世界を最大限に活用し、AIの並外れた約束と、人間だけがもたらすことができる批判的思考、思いやり、そして現実世界の判断を組み合わせることになります。