安全なAI主導のデジタルヘルステクノロジーにとって組み込みのフィードバックが重要である理由

近年、幅広い人工知能（AI）支援デジタルヘルステクノロジー（DHTS）が市場に出ています。ただし、これらのデバイスのリアルタイムデータレポートのシステムはありません。これは、安全性の問題があるインシデントを強調する可能性があります。

公開された論文で 2月に 自然 薬、Tud Dresden大学のデジタルヘルスのためのElseKrönerFreseniusCenter（EKFZ）の著者を含む研究チームと、オックスフォード大学の英国のナフィールド外科科学部門は、国民のプラットフォームに関連するフィードバックとのDHTSのユーザーインターフェイスに直接透明で必須のフィードバック収集メカニズムの統合を提案しました。

論文によると、このような措置は、ユーザーエクスペリエンスを大幅に改善し、問題の早期の特定によって患者の安全性を高め、監視ツールの管理上の負担を軽減し、この性質のデバイスに対する国民の信頼を高めることができます。

この論文の中心的な考え方は、潜在的な問題に関するDHTSデバイスにリアルタイムのフィードバックを実装すると、重大な有害事象（AE）が重傷を負うか死亡することさえ発生する前に、より早く対処できるようになる可能性があるということです。

医療機器ネットワーク The Paperの主著者であり、Tud Dresden大学のデジタルヘルスのStephen Gilbert教授のチームの研究者であり、Tud Dresden University of Technologyのデジタルヘルスの研究者であるRebecca Mathiasに座って、論文の理論的根拠について詳しく学びました。

Mathiasは、現在のAEレポートの欠点、リアルタイムフィードバックの実装に対する障壁、およびそのような計画がAI対応DHTの安全性を高める上で実現できる利点について議論しました。

Ross Law（RL）：DHTSの監視方法について現在、どのような懸念がありますか？

レベッカ・マティアス（RM）： DHTを管理する規制は、主に股関節インプラントやペースメーカーなどのより伝統的な医療機器のために作成されました。

しかし、DHTSには違いの世界があります。欧州連合の医療機器規制（EU MDR）がこれをある程度考慮していないということではありませんが、それでも非常に異なった動作をしているデジタルデバイスの側面があり、規制はデジタルデバイスの性質に対応し、変更されたもの、開発されている一般的なペースを含めます。

私たちの論文で特定された最大の問題分野の1つは、AEに関連しています。 EU内では、低リスクとして分類されたデバイスのメーカーは、市場承認プロセスの一環として人間内の試験を行う必要はありません。ほとんどのデジタル医療機器はこのカテゴリに分類される可能性があります。つまり、特定された多くの問題は、市場後のみが特定されていることを意味します。これにより、市場後の監視とフィードバックに多くの圧力がかかり、メーカーが市場で発売されたら、デバイスの安全性を観察して追跡することを保証します。

AEがある場合、ほとんどの国には、国家システムまたは統治プラットフォームで報告できる要件があります。ただし、AEイベントを構成するものの範囲は、ユーザーや臨床医には不明である可能性があります。

論文で私たちが作ろうとするポイントは、早い段階でDHTの潜在的な問題に関するデータを収集し始めると、数に強度があるということです。 1人または2人のユーザーが問題を報告している場合、それを真剣に受け止めていないかもしれませんが、多くの人が問題を報告している場合、それはおそらくデバイスに問題があり、注意を払う価値のあるものです。

患者やヘルスケアプロバイダーなどの直接的なユーザーからのフィードバックは非常に強力であると考えており、その声がそのままのヘルスケアシステムで十分に聞かれているとは思わない。 DHTについては、これをギャップと呼ぶのではなく、リアルタイムのフィードバックの提供は、デジタルデバイスがデジタル性のために提供できる利点です。ユーザーがフィードバックを提供できる情報の双方向の流れを止めるにはどうなりますか？

このフィードバックにより、メーカーはそれを真剣に受け止め、それについて何かをすることを願っていますが、それが行われていない場合があります。フィードバックが全国のプラットフォームにリンクされている場合、この情報を公開するだけで、これはシステムに何らかの説明責任をもたらします。そして、それはありそうもない解決策ではありません。実際には、技術的な能力の点で非常に実現可能です。私たちはうまくいくと思うという考えがあります。そして、それを実装するには、規制当局や国家プラットフォームを運営する人々などの適切な人々が必要です。

RL：なぜこの規定は、より多くのDHTが市場に出ていると見なされなかったのですか？

RM： フィードバックは一部のデジタルヘルスアプリケーションに統合されていますが、そのフィードバックで行われていることは本当に重要です。耳が聞こえない場合、フィードバックを得るだけでは不十分です。それが存在する場合、それにふさわしい注意が常に与えられているわけではありません。

別の要因は、プッシュバックの可能性です。急進的な透明性について話すと、システムには、デバイスの問題に関するデータを公開することに賛成しないプレーヤーがいるでしょう。

私たちの論文は、他の市場に存在するDHTのApp Storeスタイルの評価の見通しを指しています。また、企業に優れたデバイスがある場合、この程度の透明性はそれほど懸念事項ではなく、競争力を与えることさえできます。

RL：リアルタイムフィードバックシステムを実装するための最大の障壁は何ですか？

RM： 私はそれを実現するための単純な規制の意志に帰着すると思います。そして、それは必ずしも立法の変更である必要さえありません。たとえば、EU内でMDRに従うと、実装された行為と明確化するガイダンスを持つことができます。

プロンプトや結果の測定など、フィードバックと市場後のレポートはすでに必要です。これを行うための構造化された方法はないので、EU MDRのような法律の基本的な目的を変更しなければならないとは言えません。

これはガイダンスの形で行うことができますが、メーカーにこのアプローチを使用するよう奨励するために、他の方法でも行うこともできます。他のオプションを実現不可能にしているように思われ、メーカーがこのフィードバックをシステムに統合するオプションを奨励する場合、これが機能する方法になる可能性があります。たとえば、フィードバックシステムの実装の提供は、払い戻しの要件になる可能性があります。

これは、フィードバックが収集され、このデータの量が公開され、透明になっている国家プラットフォームにリンクされている2部構成のシステムとして想定しています。

RL：このようなシステムの利点は何ですか？

RM： このようなシステムの実装により、患者は声を出すことができますが、これは以前に必ずしも十分な考慮が与えられたわけではなく、これは早期に安全性の問題を特定するのに役立ちます。現在の処理能力を考慮すると、単純なしきい値だけでなく、予測分析に向けてもあります。 AIを持ち込むと、それはデータを分析する方法のまったく異なるストリームです。

このようなシステムは、患者の健康記録を備えた、はるかに後のスケールで潜在的に統合することもできます。患者のデータを1か所で統合することについて話すとき、システムは病院システムからデータの抽出に向けてより調整することもできます。

現在のAEプラットフォーム間の大きな違いは、このようなシステムを肯定的なフィードバックに使用できることです。メーカーはそれを使用してデバイスの使いやすさを向上させ、機能がより適切に機能し、一般的に直接ユーザー要件から学習できることです。

しかし、最も強い要因は、このようなシステムが患者の安全性の向上をもたらす可能性があるということです。もちろん、これは生涯と死または怪我または害の点で最も重要なポイントになります。

毎日のニュースラウンドアップにサインアップしてください！

私たちの主要な業界の洞察であなたのビジネスに優位性を与えてください。