AIの「ブラックボックス」を排除して臨床データを利用可能にする

つい最近の 2022 年には、大規模言語モデル (LLM) が ほとんど知られていない 一般の方へ。現在、世界中の消費者と業界全体が、質問に答え、問題を解決し、機会を創出するために、現在広く「生成 AI」と呼ばれている LLM ベースのソフトウェアを実験および導入しています。

しかし、医療分野で Gen AI を使用する場合、臨床医や政策立案者は、このテクノロジーを安全に実装して患者を保護し、患者情報を確実に保護するというさらなる課題に直面します。

Gen AI プラットフォームは事実をでっち上げたり、予防や予測が難しい方法で「幻覚」を起こしたりする傾向があるため、臨床医が Gen AI プラットフォームから受け取る情報の質について警戒しているのは当然です。 LLM はさまざまな意味で「ブラック ボックス」とみなされます。つまり、LLM がどのように機能するかが容易に理解できず、説明責任と信頼の欠如につながります。そのため、AI は臨床上の推奨事項を提供する可能性がありますが、多くの場合、データ ソースへのリンクやその推奨事項の背後にある理由を含めることはできません。このため、臨床医が AI を「ファクトチェック」するために膨大なデータを調査することなく、自らの専門的監督を行うことが困難になっています。

また、AI は、そのトレーニング方法や実装方法に基づいて、意図的または非意図的なバイアスの影響を受けやすい可能性があります。さらに、人間の本性を理解している悪者は、AI を通じて技術的または経済的優位性を得るために倫理の範囲を逸脱しようとする可能性があります。こうした理由から、何らかの形で政府による監視が行われることは歓迎すべき措置である。ホワイトハウスは昨年10月、こうした懸念に応えて次の声明を発表した。 大統領令 この進化するテクノロジーの安全かつ倫理的な展開を求めています。

主流の基本的な Gen AI モデルは、多くの医療アプリケーションの目的に適合していません。しかし、Gen AI が成熟し続けるにつれて、これらのテクノロジーを今日の医療現場で思慮深く安全に採用する方法が登場するでしょう。重要なのは、安全性、プライバシー、透明性のための強力なガードレールを備えた、新たな画期的な進歩を受け入れ続けることです。

医療グレードの AI の画期的な進歩により、その安全な使用が進んでいます

Gen AI ソフトウェアは、人間の言語を理解して生成する LLM の機能を介して分析を実行したり、出力を作成したりします。したがって、出力の品質は、LLM の構築に使用されるソースマテリアルの品質に影響されます。 Gen AI モデルの多くは、Wikipedia ページや Reddit の投稿など、必ずしも正確であるとは限らない公開情報に基づいて構築されているため、 不正確な出力が提供される可能性があります。しかし、それは臨床現場では決して許容できるものではありません。

幸いなことに、医療 AI の進歩により、深層学習モデルを医療現場で大規模に活用できるようになりました。 Gen AI ソフトウェアや従来の NLP では解読できない、またはアクセスできない臨床関係、用語、頭字語、略語を理解している医療専門家によって構築されており、これらの専門家はヘルスケア アプリケーション向けの医療グレードの AI の開発を生み出しています。

今日の LLM は、医療業界内で正確かつ安全に運用できるように、注釈付きの大量の医療データのセットに基づいてトレーニングを受けています。この目標を実現するには、よく訓練された LLM と医療 AI が、業界の推定に基づくと、すべての医療データの約 80% を構成する自由形式の臨床ノートやレポート、その他の非構造化テキストにアクセスできる能力が不可欠です。

近年開発された医療グレードの AI は、構造化されていない医療テキストを大規模に抽出、正規化、文脈化することができます。臨床医は患者のカルテ全体を取り込んで理解できる AI システムを必要とし、データ サイエンティストや研究者は医療システムの EHR システム全体に対して同様のことを実行できるシステムを必要としています。医療グレードの AI は、企業がほぼリアルタイムで数百万ものドキュメントを迅速に処理し、理解できるように設計されています。そのドキュメントのほとんどは非構造化形式です。これまでは不可能でした。

臨床医の燃え尽き症候群の軽減

もう 1 つの懸念事項は、Gen AI が不適切に導入された場合、ユーザーを役に立たない情報の消防ホースに沈める可能性があることです。 LLM は、長い文書の中間部分の情報を効果的に利用できない、いわゆる「途中消失」問題に悩まされる場合もあります。これは、診療現場の臨床医にとって、関連する患者データを大量の出力から検索することにイライラし、時間の無駄を招くことになります。利用可能な医療情報の量は増加し続けるため、臨床医が必要とするデータを見つけて処理することはさらに困難になることが予想されます。 Gen AI は臨床従事者の仕事を管理しやすくするどころか、臨床医の燃え尽き症候群を悪化させる可能性があります。

対照的に、医療グレードの AI は再現率と精度のバランスを保ち、臨床医に適切な量の正確で関連性のあるデータを提供し、診療現場で適切な証拠に基づいた意思決定を行い、情報を患者のカルテの元のデータにリンクします。 。これにより透明性が確保され、臨床医は時間のかかる検索を行わずに情報源の真実性と正確性を確認できるようになります。医療グレードの AI は、臨床医がより効果的かつ効率的に仕事を遂行し、患者に集中することに多くの時間を費やせるようにすることで、仕事の満足度とパフォーマンスを向上させると同時に、時間外に事務作業に費やす時間を削減することができます。

ブラックボックスを超えて

Gen AI アルゴリズムは現在のところ不透明であるため、ヘルスケアおよび医学研究における限られた方法を除いて、それらを使用するのは時期尚早です。臨床医が望んで必要としているのは、正確、簡潔、検証可能な治療現場での情報です。医療 AI は、患者データを保護し、転帰を改善し、臨床医の燃え尽き症候群を軽減しながら、これらの要件を満たす能力を備えています。すべての AI テクノロジーが進化し続ける中、質の高い医療を推進するためにこれらのテクノロジーを最も効果的かつ倫理的な方法で採用するには、ブラック ボックスではなく透明性が重要です。

写真：ra2studio、ゲッティイメージズ

この投稿は、 メッドシティのインフルエンサー プログラム。誰でも、MedCity インフルエンサーを通じて MedCity News でヘルスケアにおけるビジネスとイノベーションに関する視点を公開できます。 方法を確認するにはここをクリックしてください。