規制上の行き詰まりにある医療 LLM: E-HEALTH-COM

AI法とCo.にもかかわらず、医療LLMソフトウェアがどのように規制されるべきかは依然として不明瞭です。現在は自生している。

2024 年 8 月 1 日、5 月に可決された欧州連合の AI 法が正式に発効しました。これは人工知能 (AI または AI) に対する規制の枠組みを提供しますが、当初はメーカーや AI 開発者の質問に対する具体的な答えはほとんど提供されませんでした。大規模言語モデル (LLM) を使用するものを含む医療 AI システムの分野では、欧州でも AI 法と医療機器規制を「一致させる」必要があります。これは計画されていますが、現時点ではまだ実現には程遠い状況です。

Else Kröner Fresenius Center for Digital Health の Oscar Freyer 氏と Stephen Gilbert 氏が率いるドレスデン工科大学の医療 AI 専門家は、Lancet Digital Health 誌のレビューで LLM の規制または現在の非規制について取り上げました。これは全文がオンラインで入手でき、予見可能な将来に重要性が高まるであろうダイナミックな分野の刺激的かつ包括的な概要を提供します。

アメリカ対ヨーロッパ

著者によれば、原則として、LLM ベースのデジタル医療製品は、がん診断とがん治療、リスク予測、鑑別診断、そして最後に重要なことなど、医療の多くの分野に導入されることが予想されます。患者と医療サービス提供者の間の医療関連の相互作用。一般人を対象とした LLM ベースのツールと医療専門家を対象としたツールを区別する必要があります。

この違いは、特に米国と欧州の違いに関して、規制の観点からも関連します。ヨーロッパでは、診断と治療のためのデジタル意思決定支援ツール (CDSS) は、LLM コンポーネントの有無にかかわらず、一般的に医療製品であり、多くの場合、高リスクの医療製品であることが予見されますが、米国では、これは一般に、次の目的を対象とした製品にも当てはまります。素人。ただし、医療専門家を対象とした CDSS 製品は、低リスク領域では異なる扱いを受ける場合があります。

ツールが非急性状況でのアドバイス支援「のみ」を提供し、代替案を示し、証拠を提示する限り、画像や信号データが自動的に処理されず、意思決定権限が医師にある限り、医療専門家向けの CDSS ツール米国では、医療機器規制の対象外のままである可能性があります。また、FDA は、他の医療 AI ツールに対していわゆる「執行裁量」を行使する権利、つまり特定の承認を一時的に放棄する権利も持っています。欧州ではこれらはどれも存在せず、多くの人が競争上不利だと考えています。ドレスデンのレビュー著者らは、低リスク領域における LLM ベースの AI アプリケーションに対する規制要件を緩和することを検討することも提案しています。

そこには何がありますか？

LLM ベースの医療アプリケーションはまだそれほど多くありませんが、それは急速に変化する可能性があります。 1月、レビュー著者らは、有料顧客のみがアクセスできるOpenAIの当時新しいGPTストアを調べ、患者と国民を対象としたLLMベースの医療アプリケーションを4つ発見し、レビュー2、特にTherapy AIとDoctor AIを選択した。もっと詳しく見てみましょう。

もう 1 つの GPT-4 ベースのアプリケーションは、世界保健機関 (WHO) の Smart AI Resource Assistant for Health (SARAH) です。他のアプリケーションは他の LLM を使用します。たとえば、Vertex AI アプリケーションは医学に特化した Med-PaLM LLM に基づいており、Hippocratic AI アプリケーションはオープン LLM Polaris に基づいています。

欧州当局は抑制している

このような用途の医療機器認証はどうなるのでしょうか?米国では、規制の観点から見ると、状況はそれほど緊急ではない。FDAは、前述の理由により、低リスク領域の医療専門家に対するLLMベースのCDSSを抑制することができ、いざとなったときには「執行の裁量」に頼ることができるからである。一般向けのチャットボットに。

欧州当局にはこれらの選択肢はありません。現在の法的状況を考慮すると、医療専門家または一般の人々に診断および治療上の推奨事項を提供する LLM ベースのアプリケーションは、ヨーロッパでは議論の余地のない医療製品です。これまでのところ、欧州に法的に拠点を置くWHOのチャットボットSARAHでさえ、欧州で認定された医療製品ではない。 「LLM ベースのアプリケーションはすでに市場で入手可能ですが、私たちの知る限り、まだ正式に承認されたものはありません」とレビューの著者は述べています。言い換えれば、当局は（まだ）行動していないのです。

レビューの著者らは、この不作為が規制上の不確実性を生み出すため、批判的に見ている。彼らは、理論上の法的要件と実際の現実との間のギャップがこれ以上広がらないように、規制当局とアプリストアが市場をより注意深く監視することを要求している。同時に、開発者はその責任を認識する必要があります。医療 LLM アプリケーションは、推奨というよりも助言に近いコミュニケーションを使用し、信頼できる品質が保証された情報源からのみ知識を取得するなど、特定の原則に従う必要があります。厳格な臨床試験も必要であり、潜在的に有害な推奨事項が最初から伝達されないように措置を講じる必要があります。

詳細情報:

完全なレビューは、Lancet Digital Health でオンラインでご覧いただけます。

大規模言語モデルの医療応用の将来的な役割は、安全基準を施行する規制当局にかかっている。

https://www.thelancet.com/action/showPdf?pii=S2589-7500%2824%2900124-9