GenAI はエキサイティングですが、「アルゴリズム監視」は必須です

ヘルスケア業界全体が、生成 AI という流行語に沸いています。 しかし、genAI は実際に、ケアの質を向上させ、コスト効率を高める上でどれほど大きな影響を与えることができるのでしょうか? それが大きな疑問であり、HIMSS24 で次のタイトルのセッションで検討されることになります。 GenAI には才能がある – 医療を救えるか?

IT の意思決定者は、パネル ディスカッションの中心的な質問について、「これは本当に医療の未来への希望なのか、それとも優れたパッケージングを備えた単なるデジタル スネーク オイルなのか?」と自問した可能性が非常に高いです。

オーランドでは、ヘルスケア IT の主要な思想家 3 人が出席しました。マサチューセッツ州ブリガム校の最高データ サイエンス責任者および最高画像情報責任者のキース J. ドライヤー博士。 ソーニャ・マクニ氏、メイヨー・クリニック・プラットフォームのソリューション担当ディレクター。 ヴァンダービルト大学医療センターの小児内分泌学のヘルス IT 臨床ディレクターである Yaa Kumah-Crystal 博士は、インターシステムズのヘルスケア ソリューション部門責任者であるドン ウッドロックをモデレーターとして、その疑問やその他の疑問を検討し、生成 AI モデルの可能性と限界について議論します。臨床および運用のさまざまなユースケース。

私たちはクマ・クリスタルに尋ねました（この人は、臨床医に AI を提供することに焦点を当てた別の HIMSS24 パネルでも講演しています。）医療現場で人工知能ができること、できないことについての彼女の視点について。

Q. 生成 AI とその医療改善の機会についてどの程度興奮していますか?

A. 私のキャリアの大部分を自然言語処理と人間とコンピューターの相互作用の研究に捧げてきた者として、私は信じられないほど興奮しています。 私の同僚や家族は、私がその話題について頻繁におしゃべりをするのを許容するようになりました。 他の多くの人と同様、私も 1 年ほど前に ChatGPT のような生成 AI ツールに初めて出会ったとき、その高度な機能に驚き、驚きました。 これらは、医療提供者と患者の両方に対する臨床文書の作成や情報の要約を容易にし、臨床ケアに対する新たな洞察を提供し、最終的にケア提供の質を向上させる可能性を秘めています。 AI におけるこのカンブリア紀の爆発的な進歩は非常に刺激的であり、医療提供において私たちが苦労してきたいくつかの邪悪な問題に新たな希望をもたらしました。

Q.あなたの見解では、genAI の限界は何ですか?また、genAI について懐疑的または注意すべき点は何ですか?

A. AI の進歩は刺激的なものですが、私たちはこの探索段階での影響について熟慮する必要があります。 私たちは注意を払う必要があり、特にアルゴリズムの安全性と潜在的なバイアスに関しては健全な懐疑論を持ち続ける必要があります。 これが、「」の原則を使用している理由です。アルゴリズム監視」は、当社の生物医療情報学の教授、ピーター・エンビが作った用語です。、体系的に監視し、悪影響を防止します。

Q.ヴァンダービルト大学医療センターのどこに AI が導入されていますか? 最も成功を収めているユースケースは何ですか?

A. VUMC では、アンビエント ドキュメンテーション、患者向けの AI ガイダンス、メッセージ生成など、さまざまな AI ツールを検討しています。 OpenAI の大規模言語モデルの HIPAA 準拠バージョンを Azure 環境内に実装しました。 これは、教育および研究用の安全なアプリケーションとして VUMC コミュニティに利用可能であり、有望な取り組みを示しています。

私たちは目標に対して野心的であると同時に、安全性を確保するためのアプローチにおいては慎重です。

A.S.博士ああ、クマ・クリスタル、ヴァンダービルト大学医療センター

Q. 今後、利用を拡大する予定はありますか？ 医療システムは AI の展開について野心的ですか、それとも慎重ですか?

A. はい、将来的にはこれらの用途を拡大する予定です。 私たちの研究者は、AI が安全かつ創造的な方法で意思決定支援をどのように促進できるかを研究しています。 また、これらのツールを医学教育に組み込んで、将来の仕事にさらに統合され、最終的に標準治療となるツールを効果的に使用する方法を研修生が学べるようにしています。 私たちは目標に対して野心的であると同時に、安全性を確保するためのアプローチにおいては慎重です。

Q. HIMSS24 パネルディスカッションから参加者に何を学んでほしいですか？

A. 私たちは、生成 AI による新たな可能性が秘められたエキサイティングな時代にいます。 患者ケアをどのように改善できるかについて、楽観的な見方と希望が生まれています。 参加者がこれらの AI ツールの可能性、それらを安全かつ効果的に使用するための体系的なアプローチ、悪影響を防ぐためのアルゴリズム監視の重要性について学んでいただければ幸いです。

セッションは、「GenAI には才能がある – 医療を救えるか?」は、3月12日の午前10時30分から11時30分まで、オーランドのHIMSS24のW207Cの部屋で開催される予定です。 詳細と登録。