ヘルスケアにおける LLM の将来: 5 つの臨床使用事例

LLM、データプライバシー、患者の安全、幻覚

今年初め、世界保健機関は LLMの倫理的使用に関するガイドライン WHOは、LLMの可能性を認識しつつも、不正確さ、偏見、説明責任の欠如、プライバシーへの脅威、デジタル格差のさらなる拡大など、さまざまなリスクを強調しました。「LMMへのアクセス方法と使用方法は新しく、社会、医療システム、エンドユーザーがまだ十分に対処する準備ができていない可能性のある新しい利点とリスクの両方があります」とWHOは指摘しました。

Ananth 氏は、LLM の開発者とユーザーの両方が自分の行動に責任を持つことが重要だと言います。これには、人間を介さずに LLM 出力を使用することで発生する可能性のある損害も含まれます。彼は 6 つの安全策を推奨しています。

• ガイドラインを設定する LLM と生成 AI 組織全体で使用できるものと使用できないものがあります。
• 多様なデータセットを使用し、厳密なテストと人間からのフィードバックの両方を適用して「強化学習」を行います。
• 許可された個人とシステムのみがデータ セットにアクセスできるようにし、アクセス前に ID 検証を要求することで、データ セットをサイバー攻撃から保護します。
• 「説明可能な AI 技術」を統合して、エンドユーザーが LLM が特定の推奨を行った理由を理解できるようにします。
• LLM の機能と限界について「継続的な対話」を行い、透明性のある開発プロセスを維持します。
• 規制および倫理基準への準拠を維持するために、LLM のパフォーマンスを監視および評価します。特に、成果に与える影響に注目します。

LLM の懸念事項の 1 つは、「幻覚」、つまり完全に間違ったモデル出力です。(7 本の指や 3 本の腕を持つ人の画像を思い浮かべてください。) 医療、特に診断や請求コードの決定に関しては、そのリスクは確かに大きいです。これが、LLM を使用して患者ポータル メッセージに応答する医師が、モデル出力を確認するのに時間をかける理由の大部分を説明しています。

H2O.ai の戦略および製品担当副社長である Prashant Natarajan 氏は、開発者とユーザーは幻覚が LLM の本質的な部分であることを認識し、LLM を展開する際にはそのことを念頭に置くべきだと述べています。

「生成AIモデル 「大量のテキストデータを処理するために設計されています。単語の中で「Q」の後に来る可能性が最も高い文字など、シーケンス内の次のトークンを予測するのに優れています。これは数学的な予測モデルではありません。」

ナタラジャン氏は、法学修士号はテストを受ける必要があり、組織はそこから生じる幻覚に目を向ける必要があると語る。「場合によっては、 欲しい 幻覚は既知の技術を使って軽減できるので、幻覚は避けるべきです。幻覚が役に立つ場面を理解する必要があります。やってみなければわかりません。」

探検する： 医学部では、AI をより深く理解できる次世代の臨床医を育成しています。

ヘルスケアにおける法学修士課程の将来

スタンフォード大学の分析によると、 ヘルスケア分野での法学修士課程の大きな潜在的可能性これまで多くの LLM は、診断の強化や患者とのコミュニケーションなどのタスクに使用されてきました。臨床医の燃え尽き症候群の一因となる管理タスクに取り組んでいるモデルははるかに少ないです。

「モデルが構築され、実装され、その後ユーザーからのフィードバックによって継続的に評価される LLM の評価ループを緊急に構築する必要がある」と研究の著者らは結論付けている。

ナタラジャン氏は、LLM は限られた状況ではあるものの、現在では有用であると述べています。同氏によると、「フロンティア」とは、LLM が臨床医や患者が毎日使用するアプリケーションにさらに組み込まれ、タスクを完了しているように見えて、完了すると消えてしまう状態を指します。

「AIは、インタラクション、行動、コンテキスト、インテリジェントエージェントへと移行しています。行動、反応、感情に結びついています」と彼は言います。「世界は電子メールを書くだけにとどまらず、拡大しています。」