プロバイダー組織は、質の高い成果を保証するために AI トレーナーを必要としています

今年、医療データの専門家も人工知能トレーナーとして新たな役割を担うようになるだろうと、医療 AI システム会社 Carta Healthcare の共同創設者兼最高イノベーション責任者のマット・ホリングスワース氏は主張する。

「医療におけるAIの導入は新しいことではないが、2024年以降もAIテクノロジーのニーズは高まり続けるだろう」と同氏は述べた。 「看護師やスタッフ不足の傾向に見られるように、医療業界全体の人手不足を考えると、ワークフローの効率を高め、臨床医の仕事の満足度を向上させながら、競争力のある報酬率で既存の人員を維持するには、AI が最適なソリューションであると考えられます。

「国立医学図書館によると、AI導入を成功させる鍵は、臨床介護者が後回しにできる臨床的に関連した方法でAI導入を行うことだ」と同氏は続けた。 「これはテクノロジーだけの問題ではなく、テクノロジーと介護者がどのように信頼できる方法で協力し、彼らの介護を信じ、訓練し、献身的に取り組むかが重要です。 長期的な価値を提供するAIソリューション。」

私たちは、医療における AI トレーナーの必要性についての彼の信念をより深く理解するために、ホリングスワース氏にインタビューしました。

Q. 今日の医療提供組織には人工知能トレーナーが必要だとおっしゃっていますね。 なぜ？

A. 基本的に、どのクラスの AI も、特定のタスクを適切に実行することが検証されるまでは、そのタスクに対して信頼できる十分な高品質の出力を生成しないためです。 上記の検証を実行するには、対象分野の専門家が必要です。私たちはこれらの人々を AI トレーナーと呼んでいます。

これを具体的にしてみましょう。 患者とチャットして、受けた診断に関する臨床上の質問に答えるシステム (チャットボット WebMD など) を構築したいと想像してください。 原理的には、生成型 AI ならそれが可能です。 次の場合に何が起こりますか ChatGPTに質問する 臨床診断について詳しく説明します。

最初の答えは完全に間違っており、それを受け取った患者に誤解を与えることになります。 2 番目の答えはまったく問題ありません。 製品を世に送り出し、患者の質問に答える前に、絶対に答えなければならない質問があります。それはどのくらいの頻度で正しいのか、どのくらいの頻度で間違っているのかということです。

その答えが得られたら、それが問題の解決に十分役立つのか、それとも良いことよりも害をもたらすのかを判断する必要があります。 どうやってそれを行うのですか？ この場合、多くの質問をし、「AI トレーナー」に出力を検証してもらい、正確さに基づいてスコアを付けます。 次に、それらの結果を考慮して、それが十分であるかどうかを判断します。 製品が動作するかどうかを気にしない場合を除き、これを回避する方法はありません。誰かが出力の正確性をチェックする必要があります。

現在、いかなる問題も人間レベルで処理できる単一の「汎用 AI」アルゴリズムはありません。 したがって、どのクラスの AI を選択する場合でも、上の例では生成テキスト AI モデルである ChatGPT を選択しますが、そのアルゴリズムが問題解決に付加価値をもたらすかどうかを知る前に、特定の定量化可能な問題に対してそのパフォーマンスを検証する必要があります。 その検証作業を行う人たちを私たちは「AIトレーナー」と呼んでいます。

Q. AIトレーナーの役割はどのようなものですか？ 彼らは具体的に何をする必要があるのでしょうか?

A. AI トレーナーの役割は多面的であり、AI トレーナーの重要な評価が含まれます。 AIアルゴリズムの出力 実世界のデータを使用します。 この専門家は、AI のパフォーマンスが期待される結果と精度と一致しているかどうかを評価します。 AI トレーナーの仕事の範囲と方法は、AI アルゴリズムの特定のアプリケーションに大きく依存します。

たとえば、医療診断に関する患者の問い合わせに AI アルゴリズムが応答するシナリオでは、AI トレーナーは応答の関連性と正確性を評価する必要があります。 これには、AI の回答と検証済みの医療情報を比較して、正確性を確保することが含まれます。

AI トレーナーの役割は、画像分析を通じて手術中の失血量を推定するように AI アルゴリズムが設計されている場合など、より複雑なアプリケーションではさらに複雑になります。 ここでは、失血量を個別に測定し、これらの測定値を AI の推定値と比較して、リアルタイムの医療状況における AI の精度を確保する必要があります。

同様に、AI が臨床文書の要約に関与していると仮定します。 その場合、AI トレーナーは、AI が生成した概要が包括的であり、実際の文書の重要なポイントを反映していることを検証する必要があります。 これには、AI の出力と元の臨床記録との詳細な比較が含まれます。

最後に、次のような場合には、 AI が見逃した請求コードの検出を支援、AI トレーナーの仕事は、AI によって提案されたコードが適切で適用可能であることを確認することです。 AI の提案と提供される医療サービスを相互参照し、請求が正確かつ包括的であることを保証する必要があります。

要約すると、AI トレーナーの役割は、さまざまなドメインにわたって AI アルゴリズムを検証および改良し、AI の出力が技術的に正確で、実際に適用可能で、現実世界のシナリオで信頼できるものであることを保証する上で非常に重要です。

Q. 現在、病院や医療システムに存在する役職や役割は、AI トレーナーの責任を引き受ける必要がありますか?また、その理由は何ですか?

A. 病院や医療システムに AI を導入する場合、AI トレーナーの責任を担うのに最も適しているのは、AI が実行するように設計された特定のタスクに関して、主題に関する深い専門知識をすでに持っている専門家です。 ただし、これらの専門家は、専門分野の専門知識と AI の技術的側面の間のギャップを効果的に埋めるために、AI に関する追加のトレーニングが必要になることに注意することが重要です。

ここでは、特定の役割の内訳と、それらが適している理由を説明します。

Q&Aボット – 診断に関する患者の質問に対応する AI の理想的な AI トレーナーは医師です。 医師は、AI が生成した応答の正確性と適切性を評価するために必要な医学的知識と経験を持っています。 AI が医学的に正確で状況に応じた回答を提供できるようにするには、診断と患者コミュニケーションにおける専門知識が不可欠です。

失血量の推定 – 手術室の看護師は AI を訓練するのに適した立場にあります。 手術室看護師は外科現場での直接の経験があり、失血量の推定など、手術中の患者の状態を評価することに熟練しています。 画像を分析して失血量を正確に推定するための AI トレーニングには、彼らの実践的な知識が不可欠です。

臨床概要 – 医師、医師助手、または看護師は、このタスクを効果的に管理できます。 これらの専門家は、詳細な臨床文書の作成と解釈に経験があります。 AI によって生成された臨床文書の概要が正確であり、すべての重要な医療情報が含まれていることを確認するには、彼らの専門知識が不可欠です。

請求コーディング – 課金コーディングで AI をトレーニングするには、コーディング スペシャリストが最適です。 コーディングのスペシャリストは、医療請求コードとそのさまざまな医療シナリオにおけるアプリケーションを包括的に理解しています。 正確かつ効率的な請求を保証するという役割は AI の目的と一致しており、この分野での AI のトレーニングと監督には理想的です。

これらの各ケースにおいて、選ばれた専門家は、AI が自動化または支援することを目的としたタスクの分野の知識と経験をすでに持っています。 効果的な AI トレーナーになるための追加要件は、AI の原理と運用の基礎を理解していることです。 この知識は専門的なトレーニングを通じて取得できるため、対象分野の専門知識と AI アルゴリズムやアプリケーションの技術的なニュアンスを結び付けることができます。

Q. システムに AI を搭載したベンダーが関与する場合、AI トレーナーは誰と連携し、ベンダーとユーザーの間のパイプ役としてどのように連携すべきですか?

A. この高度に専門化されたプロセスが大規模に普及してからまだ数年しか経っていないため、病院にはまだこのような人材がただ座っているだけである可能性は低いです。 少なくとも近い将来、最も一般的なモデルは、システムに AI を搭載したベンダーに、サービス契約を通じて製品の実装に必要なトレーナーを提供させることであり、おそらくテクノロジーの実装中に行われるでしょう。

これらのトレーナーは、当面のタスクとその両方の分野の専門家である必要があります。 AI アルゴリズム自体、そして、トレーナーが最初にアルゴリズムを作成した会社の従業員であれば、後者の経験をすることは無限に簡単になります。

一般に、これは、特定のプロジェクトの実装段階で、病院に雇用されている AI トレーナーがベンダー側の AI トレーナーの大規模なチームと協力するという形になります。 病院側のトレーナーは、パフォーマンス要件を設定し、出力の健全性をチェックし、プロセスの出力を信頼できるかどうかを確認するためのスポット チェックを行います。

ベンダー側の担当者は、パフォーマンスを確実にするために十分なサンプル統計を収集し、チームの他のメンバーと協力して実装プロセス中に表面化した欠点に対処するという単調な作業を行うことになります。

Q. AI トレーナーがヘルスケア AI ユーザーに対して取り組むべき大きな問題は何だと思いますか?

A. 最も重要なことは、私たちが現在持っていない、そしておそらく私たちが生きている間にも持たないだろうすべての人に、私たちが投げかけたあらゆるタスクを実行できる汎用AIアルゴリズムを思い出させることです。そのため、このトレーニングプロセスは不可欠です。

特定のタスクと AI アルゴリズムのペアが、それが導入されている施設の実生活において、特定のタスクの正確性の定量化された測定という形でトレーナーの祝福を受けていないと仮定します。 その場合、ユーザーはそのAIツールを使用すべきではありません。 先ほどの GPT の例は、その理由を示す優れた例です。 GPT は GRE の質問に答えるのは得意ですが、臨床の質問に答えるのはあまり得意ではありません。

AI システムを盲目的にタスクに適用すると、確実に災害が発生します。

このトレーニングを購入する場合の予算 AI ソリューション。 基本的に、これは医療機器の臨床試験に似ています。 メーカーが精度を検証していない心電図装置は決して使用しません。 同様に、AI アルゴリズムは、機能することが確認された場合にのみ使用する必要があります。

主な違いは、患者の生理学とは異なり、AI アルゴリズムのデータは、IT インフラストラクチャと文書化の実践に基づいて施設ごとに大きく異なることです。 そして、これらのアルゴリズムには感覚がありません。 アルゴリズムがトレーニングされた場所では体重がポンドで記録されているのに、EHR では体重が kg で記録されているため、魔法のように自分自身を修正することはできません。

つまり、EHR または同様のシステムのデータに関わるアルゴリズムは、世界規模ではなく各機関で検証される必要があります。 結果として、これは多くの場合、労働集約的なプロセスとなり、これが一夜にして完了することを期待していた人は失望するでしょう。

最高の AI アルゴリズムであっても、そのパフォーマンスを検証するにはまだ数か月かかる可能性があります。 そのため、リーダーは AI ソリューションを評価するたびに、トレーニング プロセスの予算を確保する必要があります。 「AI をオンにする」ことで付加価値が得られることを期待している場合、彼らは 100% 失望するでしょう。

LinkedIn で Bill の HIT 報道をフォローしてください。 ビル・シウィッキー
彼にメールを送ります: [email protected]
Healthcare IT News は HIMSS Media の出版物です。