ダナファーバーがん研究所が安全なLLMの使用に関する教訓を共有

有名なダナファーバーがん研究所は、臨床および基礎研究や運用などの非臨床アプリケーション向けの大規模な言語モデルを評価、テスト、展開するための安全でプライベートな探索環境を構築しました。

プロバイダー組織は、ガバナンス、倫理、規制、技術的な課題を克服し、開発者がソフトウェアアプリケーションにAIを組み込むことができる安全なAPIを導入しました。また、組織は従業員に次のようなトレーニングを行いました。 適切かつ安全なLLMの使用必要に応じて再教育およびスキルアップを行い、採用の増加に取り組みました。

Renato Umeton 氏は、ダナファーバーがん研究所の AI 運用およびデータ サイエンス サービスのディレクターです。数学と情報学の博士号を取得しています。 ヘルスケアITニュース ウメトン氏にAIの仕事について話を聞き、彼の ケーススタディセッション 9月5日〜6日にボストンで開催されるHIMSSヘルスケアAIフォーラムで、このテーマについて講演します。このセッションでは、ヘルスケアにおけるLLMのリスク軽減に焦点を当てます。

Q. 今日の医療における大規模言語モデルの最大の機会と課題は何ですか?

A. このセッションの焦点は、医療、特にダナファーバーがん研究所の従業員に対する、大規模言語モデルのプライベートで安全な HIPAA 準拠の実装です。セッションの主なポイントは、直接的な臨床ケア (治療、診断、臨床管理の推進、または情報提供など) を明示的に除外しながら、これらの高度な AI ツールを研究および運用タスクに統合する際の課題と教訓について議論することです。

これは今日の医療業界にとって非常に重要なことです。AI はますます多くの医療ソフトウェア製品に浸透しており、臨床医から患者、スタッフまで、誰もが AI の可能性を安全かつ効果的に活用する方法を理解することで恩恵を受けることができるからです。

短期的には、効率性を向上させるユースケースを目指しています。長期的には、より優れたデータと AI によって診療と患者の転帰が改善されることを期待しています。

GPT-4 を運用化するまでの道のりには、倫理的、法的、規制的、技術的な大きな課題がありました。

AI の実装のために開発した経験とフレームワークを共有することで、同様の導入を検討している他の医療機関に知見を提供することを目指しています。業界がイノベーションと患者の安全という 2 つの課題に取り組んでいる中、これは特に重要であり、AI の使用に関する堅牢なガバナンスとガイドラインを確立することが重要になっています。

Q. あなたの組織で実践している仕事の例は何ですか?

A. このセッションで議論された主な技術は GPT4DFCIは、GPT-4 モデルに基づく、プライベートで安全な HIPAA 準拠の生成 AI ツールです。GPT-4o はこのアプリケーションの中心的なレイヤーと考えることができます。次のレイヤーは、モデルに出入りするすべてのデータを分析して、有害な言語や著作権で保護されたソフトウェア コードなどの危険なコンテンツをフィルターする AI モデルをサポートしています。

その外側には、この技術を使ってユーザーが行ったすべての操作を記録し、監査を可能にするレイヤーがあります。最後に、最も外側のレイヤーは ChatGPTのようなシンプルなユーザーインターフェース トレーニング資料やユーザー サポート用のチケット システムへのリンク、およびユーザーが詳細を読むことができる専用の Wiki ページへのリンクがあります。

このテクノロジーは、メモ、レポート、その他の文書内の情報の抽出と検索、反復的なタスクの自動化、管理文書の合理化など、さまざまな非臨床タスクを支援するために使用されています。

Q. セッション参加者が学び、プロバイダー組織に応用できることを期待するポイントは何ですか?

A. まず、参加者には、ヘルスケアにおける AI テクノロジーの慎重な導入のために、包括的な AI ガバナンス フレームワークを確立することの重要性を理解していただきたいと考えています。これには、実装を監督し、倫理的な懸念に対処し、進化する規制への準拠を確保するために、当社の AI ガバナンス委員会のような多分野にわたるガバナンス委員会を結成することが含まれます。

組織は、患者だけでなく、法律、臨床、研究、技術、生命倫理の専門家など、多様な関係者を関与させることで、イノベーションと患者の安全およびデータのプライバシーのバランスをとるポリシーを作成できます。

第二に、参加者に AI テクノロジーの段階的かつ制御された展開の価値を認識してもらうことを目指しています。GPT4DFCI に関する当社の経験から、臨床 AI の使用を IRB 承認の臨床試験と研究所認可のパイロットに限定することの潜在的な利点が明らかになりました。

このアプローチにより、管理された研究から得た知識に基づいて反復的な改善が可能になり、潜在的な問題を早期に特定して対処するのに役立ちます。非臨床ユースケースに関しては、ユーザーがテクノロジーを効果的かつ責任を持って使用できるように、相互に学習するための包括的なトレーニングとサポートを提供することに大きな価値があります。

慎重かつ段階的な AI 戦略を採用することで、他の組織は AI のメリットを最大化し、関連するリスクを最小限に抑えることができると考えています。

9 月 5 日から 6 日にボストンで開催される予定の HIMSS AI in Healthcare Forum のこのセッションにご参加ください。 詳細と登録。

LinkedIn で Bill の HIT 記事をフォローしてください: ビル・シウィッキ
彼にメールを送る: お問い合わせ
Healthcare IT News は HIMSS Media が発行する出版物です。