1758734081
2025-09-24 10:50:00
日常の臨床生活への安全な統合のルール、品質、責任を伴う
多くの医師は、日常の臨床生活にはすでに生成人工知能（短いまたはAIチャットボットにgenaiと呼ばれる）を使用しています。彼らは、診断と治療管理における貴重なサポートを望んでいます。しかし、一般的なAIチャットボットは現実チェックでどのように行いますか？
高いリスクを考慮して、genaiは患者治療において集中的な観察中です。メリーランド州ピーターボニスは、自由にアクセス可能なAIチャットボットをターゲットにし、実用的なテストを行いました。結果は心配です – その報告 品; Wolters Kluwer Healthの最高医療責任者として、およびマサチューセッツ州のTufts University School of Medicineの医学の講師として働いています。
心配する例
そこで、ボニスはAIチャットボットに、「患者の尿路感染症（UTI）をどのように治療するのか：内部エネルギーを持つ内部？」と尋ねました。 「フルオルキノロンまたはレボフロキサシン」がオプションとして提供されました。この答えは、素人に説得力のある影響を与える可能性があります。最初の間違いは、医療専門家のスタッフにとって最初の間違いです。レボフロキサシンはフルオルキノロンの一種です。したがって、答えは、レボフロキサシンがフルオルキノロンにカウントされなかったと仮定するように誘惑する可能性があるため、正しく配合されていませんでした。ボニスは、医学的に重い計量ミスを心配していました。妊娠中の患者の兆候はありませんでした。フルオルキノロンは、胎児に深刻な損傷を引き起こす可能性があります。もし患者が妊娠していたら、この答えに盲目的に従っていれば、子供の健康に非常に有害だったでしょう。 AIチャットボットは、この詳細の関連性に関して能力の欠如を考慮して、この基本的なつながりを考慮しませんでした。理由は明らかです。ボットには、医療訓練によって伝えられる多くの制御ポイントをナビゲートする臨床経験がありません。彼はまた、トレーニングも日常からも長期的な専門知識もありません。
信頼できるテクノロジー？
それにもかかわらず、他の技術と組み合わせたgenaiツールは、医師や看護師が一人でできることを超えて臨床的意思決定を改善する大きな可能性を持っています。
AIチャットボットは、診断と治療管理のサポートを提供します。ますます多くの研究によると、それらは医療専門の試験でうまく機能します。しかし、データは全体を語っていません。一般的なAIチャットボットの多くの特定の問題は、臨床的意思決定において重要な役割を果たすためにテクノロジーがまだ最新ではないことを示しています。
幻覚
すべてのGenaiプラットフォームの最もよく知られているリスクとしての幻覚の課題は依然として課題です。幻覚は常に認識するのが容易ではありません – 彼らがそれらを特定できると確信している臨床専門家にとってさえ。殻を小麦から分離する荷物は、小麦に課さないでください。
genaiモデルには参照が含まれる場合があります。医師が元の材料が有効であるか幻覚であるかを一貫してチェックしていることは現実的ではありません。そのため、ボニスは、明らかに説得力のある研究からの引用の報告 – しかし、存在することができないことが判明しました。それ以外の場合、引用されたソースは本物でしたが、トピックが不十分であり、現在の知識の状態を完全に反映していませんでした。
リトマステスト
再現性は課題です。KIチャットボットに質問をし、後日同じ入力を繰り返すと、ほぼ確実に2つの大幅に異なる回答が得られます。統計的な見方から、genaiの結果は大きく異なる可能性があります。これは、両方の医師にとって深刻な問題です。内部と患者です。
genaiプラットフォームは、歪みの影響も受けやすい（「バイアス」）。民族性に関する歪みの露骨な米国の例は、入力の定式化が答えに影響を与えるだけでなく、臨床的に有意な違いを持つ答えにつながる可能性があることを示しています。1 2 さまざまな入力に優先順位を付けるために、モデルが行わなければならない決定に、より微妙な歪みが潜んでいます。たとえば、研究で矛盾する証拠に至るとき、最も信頼できる情報源をどのように一貫して選択しますか？これまでのところ、AIチャットボットは、ドキュメントを評価するための重要なピアレビューをまだ実行することができていません。それも1つ以上でした さまざまな誤解 – 人間に似ています – 歪みのため 報告されています。
AIチャットボットは、医療ユーザーに驚くべき答えを感動させます。医師：内部の最終決定ですが、質問をして答えの実装に慣れることができます。つまり、プロセスのために「筋肉の記憶」のようなものが開発されます。
この開発は、医学的意思決定のまったく新しい次元を開きます。これはまた、規制当局によって再評価されなければなりません。これは、法的には、医学的エラーが発生した場合に発生する可能性のあるこれまでのところほとんど明確にされていない質問は言うまでもありません。
日常の臨床生活における複雑さ
診断と治療は、多くの場合、実際に徐々に行われます – 情報と知識のレベルは時間とともに発生します。生成AIモデルは、構造化された検査のケースを自信を持って解決しますが、臨床ケアの混乱した動的な現実により、はるかに難しいと感じています。3 4
テクノロジーベースの未来への正しい方法
Bonisは要約しています：ヘルスケアシステムでは、質問に対する間違った答えは深刻な結果をもたらす可能性があります。説明されている問題の調査は、ヘルスケアシステムで生成AIを正しく使用するための時刻表を開発するための前提条件です。
臨床的精度を確保するための適切なレビューとプロセスにより、AIチャットボットは他のテクノロジーと組み合わせて、医師と患者の相互作用をリアルタイムで改善できます。質問をし、コンテキストを考慮し、最良の知識を使用して、AIがサポートする未来の外観への正しい方法であるPeter Bonisの治療をサポートします。
出典：SabineSchützmannCommon Sense and
1 Hophmann、V.、Calling、PR、Jurafsky、D。 et al。 AIは、方言に基づいて人々に関する密かに人種差別的な決定を生み出します。 自然 633、147–154（2024）。 https://doi.org/10.1038/S41586-024-07856-5
2 ヤン、ヤン、リュー、X。、ジン、Q。 et al。 医療報告書の生成における大規模な言語モデルの人種的バイアスのマスキングと定量化。 と協力します 4、176（2024）。 https://doi.org/10.1038/S43856-024-00601-Z
3 ウィリアムズ、サイク、ミアオ、by、kornblith、ae et al。 大規模な言語モデルの使用を評価して、救急部門で臨床的推奨事項を提供します。 一般的なナット 15、8236（2024）。 https://doi.org/10.1038/S41467-024-52415-1
4 Hager、P.、Jungmann、F.、Holland、R。 et al。 臨床的意思決定における大規模な言語モデルの制限の評価と緩和。 との夜 30、2613–2622（2024）。 https://doi.org/10.1038/S41591-024-03097-1
貢献 死の原因ki-chatbot？ 最初に登場しました ヘルスケアスタートアップドイツ。
#死の原因kichatbot