AIを臨床ワークフローに統合する前に尋ねる6つの質問

大規模な言語モデル（LLMS）の出現により、1人の研究チームが、潜在的な薬物と薬の相互作用を特定する際に、従来の臨床意思決定支援システムと比較して、この技術がどれだけうまく機能するかを比較するようになりました。 レトロスペクティブ分析が見つかりました 従来の臨床サポートツールは280の臨床的に関連するインスタンスを特定しましたが、AIは80しか見つかりませんでした。

このような研究は、医療提供者がAIを臨床診療に採用することに慎重になる理由の良い例です。 Aへの回答者 2024ヘルスケアIT支出 ベインとKLASの研究からの研究では、患者の安全性が危機にatしている場合はすべて有効な考慮事項である規制、法的、コスト、および精度の懸念を訴えます。

しかし、この調査では、AIがヘルスケアプロバイダーで牽引力を獲得し続けていることも発見しました。回答者は、生成AIの実装について楽観的であるように見え、結果を改善するためにテクノロジーを実験する傾向があります。

AIは、テクノロジーを臨床ワークフローに統合する際に、長年の中心的ジレンマに直面しています。リスクを最小限に抑えながらケアを改善するためにテクノロジーを使用する方法は？

この質問を、臨床的意思決定支援のレンズ、特に処方者向けの投薬情報を通して見てみましょう。何十年もの間、テクノロジーは、臨床医が継続的に成長し進化する証拠に対応することは不可能であるため、薬物の安全性に関する洞察を持つ臨床医をサポートしてきました。たとえば、PubMedには現在3,000万件以上の引用が存在しており、毎年約100万件の新しい引用が拡大しています。

テクノロジーが役立ちます。コンテンツデータベースは、世界の文献、規制上の更新、および臨床ガイドラインを調査します。彼らは、品質を批判的に評価し、結果を合成して、臨床医がケアの時点で使用できる内容と推奨事項に合成します。

健全な意思決定支援システムは、信頼できる証拠に基づいた情報を提供します。彼らは、臨床医に、今日入手可能な医学文献の宇宙から慎重かつ正確にキュレーションを行うように関与しています。これにより、臨床医のユーザーは、ケアの時点で特定の患者ケアの決定を通知するための最新の関連する証拠を提供します。 AIは、これらのシステム内の情報をさらに速く表面化することでエクスペリエンスを向上させ、特にこの目的のために構築されている場合は、クリックが少なくなります。

一般的なAI対専用AI

ChatGptなどの大規模な言語モデル（LLM）は、近年AIに関する会話の中心的な舞台に立っています。これらのツールは、より良い汎用言語の理解と推論機能を可能にします。

ただし、これらの意思決定支援システムに一般的なAIツールを追加するだけで、それらを一連の臨床文書に向けても、多くの人が求めているメリットは提供されません。研究は、確立された意思決定支援システムの代わりに一般的な視点LLMを使用して薬物薬物の相互作用を評価できると信じる人々に注意の物語を提供します。

例えば、 1つの研究 ChatGptは、臨床的に重要な潜在的な薬物薬物相互作用を逃したことがわかりました。で 別の研究、ChatGPTは、潜在的な薬物薬物の相互作用を特定することができますが、重症度を予測し、発症したり、高品質のドキュメントを提供したりすることで得点が低くなりました。これらの調査結果は、患者のケアの決定を下す臨床医が構築されていないシステムの欠点を示しています。

簡単な質問は、ヘルスケア組織が、臨床医が意図している意思決定支援AIが専用であるかどうかを判断するのに役立ちます。

1. このAIは誰のために設計されていますか？ 専用のAIに焦点が当てられています。限られた視聴者をターゲットにし、その聴衆にとって最も重要な質問に焦点を当てています。正しく行われた場合、これらのシステムは専門分野の汎用システムを上回るはずです。

2. このAIのトレーニングはどのようなデータですか？ 証拠の直接引用は、意思決定支援ツールの回答の中心部分でなければなりません。一般的なAIシステムは、関連するコンテンツについてインターネットを組み合わせることができますが、専門家によって査読または審査されない欠陥のある証拠が含まれる場合があります。多くの出版物はインターネット上の無料の全文では利用できないため、LLMは重要な部分の詳細をキャプチャしないため、証拠にギャップが生じます。また、システムは頻繁に更新して、最新の調査結果と規制材料を含める必要があります。最後に、AIが回答を調達するためにどの情報を使用するかはユーザーに明確にする必要があります。

3. このAIは私の質問をどのように解釈していますか？ ヘルスケアでは、ユーザーはあいまいな頭字語または不完全なフォローアップの質問で質問をすることができます。たとえば、誰かが「バンコマイシンについて」と入力した場合、それは単独でランダムな断片のように思えます。しかし、前の質問が「セフェピムの監視パラメーター」である場合、質問の正しい解釈は「バンコマイシンの監視パラメーター」であることが明らかになります。AIシステムはユーザーに質問の解釈方法をユーザーに伝える必要があるため、AIが正しい質問にさえ回答しているかどうかをユーザーは最初から知っています。明確化メカニズムにより、AIが回答を提供する前に、ユーザーがクエリを改良することができます。

4. このAIは複数の最適な答えを提供しますか？ 看護師と薬剤師の一般的な状況では、静脈内投与のさまざまなソリューションで複数の薬物を組み合わせることができるかどうかを判断することが含まれます。シンプルなチャット応答は、最適な回答が1つしか提供されない場合がありますが、臨床医にはいくつかの選択肢が必要になる場合があります。特に、患者がIVアクセスが制限されている場合。臨床医には、最善の判断を使用して薬を安全に投与できるようにするシステムが必要です。

5. このAIはその制限を認識しますか？ AIテクノロジーは毎日改善されていますが、制限があります。答えをすぐに見つけることは重要ですが、期待は現実的でなければなりません。たとえば、ユーザーは、AIにメタ分析を行うように依頼することに相当する質問をすることができます。 AIシステムは、患者の安全性を危険にさらす製造された答えを提供するリスクではなく、制限を認識し、透明にしなければなりません。

6. 臨床医はこのAIの開発に関与していますか？ 臨床医は、患者の安全性に影響を与えるツール、テクノロジー、またはプロセスのために、常に運転席に留まる必要があります。期間。臨床医は、システムを継続的に改善するテクノロジーの開発と、継続的なフィードバックループに不可欠な視点をもたらします。臨床医とユーザーテストは、すべての臨床意思決定サポートツールの重要なコンポーネントを検証する必要があります。

共同アプローチは、より良い結果を提供します

最終的に、専用のAIは結果に焦点を当てています。臨床医がケアの時点で信頼できる情報にアクセスするのを支援します。一緒に、人間とAIの組み合わせは、どちらかだけよりも優れた結果を達成できます。

画像：Mr.Cole_Photographer、Getty Images

この投稿はを通して表示されます Medcityインフルエンサー プログラム。誰でも、Medcityインフルエンサーを通じて、Medcity Newsのヘルスケアのビジネスとイノベーションに関する視点を公開できます。 方法を調べるには、ここをクリックしてください。