病院と医療システムは、人工知能が患者の転帰を改善するためにもたらす多くの新たな機会と、責任を持って AI 対応製品を提供するという義務とのバランスをとる方法を理解する必要があります。
データのプライバシーと並行して、倫理的および規制上の考慮事項もあります。 そして、今日の製品で積極的に使用されている、いわゆる「責任ある AI」の原則があります。
PointClickCare の AI およびデータ プラットフォーム担当シニア ディレクターであるリサ ジャレット氏が、教育セッションでこれらすべての問題について説明します。 HIMSS24 グローバルカンファレンス＆展示会 「患者の転帰を改善するための責任ある AI」と題した。
透明性と公平性
AI の並外れた可能性には、透明性と公平性を持って臨床医や介護者の仕事を強化する方法で AI を活用するという同様に大きな義務が伴います、とジャレット氏は述べました。
「AI の利用機会を検討する際、初期の計画から顧客の使用、継続的な管理と測定に至るまで、倫理に基づいて評価および設計する必要もあります」と彼女は説明しました。 「ヘルスケアでは、責任ある AI の中核となる価値を組み込む必要があり、AI 機能を直接使用するか、AI 機能の影響を受ける患者、ケア環境、介護者、臨床医の多様なエコシステムをさらに検討する必要があります。
「使用を成功させ、プラスの効果を確実に得るには、臨床医やユーザーと積極的にパートナーシップを結び、AI が日常生活の活動にどのような影響を与えるかについての質問やフィードバックを学ぶことが重要です」と彼女は続けました。 「医療 IT リーダーは、効果的な導入をサポートするために、最初からライフサイクル全体を通じて重要な質問に確実に答えられるように、責任ある AI の原則がユーザーのエコシステムと医療提供環境全体でどのように機能するかを理解する必要があります。」
AIに関する法規制が次々と登場、業界グループは、臨床意思決定支援における責任ある AI の原則を開発および共有しています。
必要とされる責任ある AI 実践
「必要とされる責任あるAI実践がどうあるべきかについては、臨床医や配信環境などに多様な視点が存在する」とジャレット氏は述べた。 「アルゴリズムの透明性に関する最近の HHS ONC HT1 条項は、医療における AI の使用に関するより詳細なガイダンスを提供します。HHS は、FAVES (公平性、適切性、有効性、有効性、安全性) と呼ばれるフレームワークの概要を説明しました。
「これは、意思決定をサポートするために使用されるアルゴリズムに関する一貫したベースライン情報を確保するための、実用的で有意義なフレームワークです。」と彼女は続けました。 「PointClickCare が使用するアプローチはこれらの原則に基づいており、ユーザーとなる臨床医と早期かつ頻繁に連携して、彼らの疑問や懸念を製品に統合します。」
これは、予測が肯定的に受け入れられることを保証し、顧客の信頼を築く方法を理解するために重要であると彼女は付け加えました。
「一例として、Pacman と Performance Insights の両方で有効な予測復帰アルゴリズムの開発では、ケース マネージャー、看護師、医療責任者に至るまでのユーザーがコンテンツをレビューし、アルゴリズムの予測を比較して精度の指標を導き出すための人的ベースラインを確立しました。 」とジャレット氏は指摘した。
「すべてに当てはまる万能の方法はありません。プライマリユースケースとエッジユースケースには独自の考慮事項が適用され、異なるペルソナはさまざまな視点や懸念事項を持っています。」と彼女は続けました。 「責任ある AI の価値観は、アルゴリズムの設計、トレーニング、展開の出発点を与えます。製品チームはフレームワークから始めて、その後さらに深く掘り下げて、ユースケースとユーザーに基づいて適応する必要があります。」
データのセキュリティとプライバシー
「説明性」と透明性 病院や医療システムのユーザーからの信頼を確保するには、データのセキュリティとプライバシーとともに、アルゴリズムの開発と評価に使用されるデータの保護が必要であると同氏は付け加えた。
学習参加者がジャレット氏のセッションから離れるべき重要なことは、IT リーダーにとって、システム自体の品質と同様に、AI 駆動型または対応システム上の責任ある AI を評価することが重要であるということだと同氏は述べた。
「臨床医であろうと介護者であろうと、ユーザーに代わって、アルゴリズムの説明可能性、アルゴリズムの開発方法、製品が継続的な監視と管理にフィードバックと適応をどのように組み込むかについて調べて質問する必要があります。」と説明した。 「これらの質問と、それに答えるための製品の責任ある AI に関する情報の入手可能性は、特に病院や医療システムが AI 対応ツールのポートフォリオを拡大する中で評価することが重要です。
「医療 IT リーダーは、責任ある AI の可視化されたサプライ チェーンを確保するために不可欠であり、これは信頼できるセキュリティ ソフトウェア サプライ チェーンの証拠と同じくらい重要であると考えられるべきです。」と彼女は続けました。 「カーテンの背後に何があるのかをユーザーレベルで理解して受け入れることが、効果的な導入と使用の前提条件です。 医療 IT リーダー ユーザー、そのユースケース、そしてユーザーが信頼として受け入れるか受け入れないかのしきい値を知っているのです。」
AI による変革の機会
別の面では、臨床医は AI による変革の機会を特定することと、臨床意思決定支援における責任ある AI レベルの基準を引き上げるのを支援することの両方において基本であるとジャレット氏は HIMSS24 セッションでのさらなるトピックについて述べました。
「PointClickCare の予測アルゴリズムに関する経験では、同じペルソナの中でも受け入れられるか懐疑的な意見が幅広く存在し、しっかりとしたベースラインを作成し、変化に基づいて見直して調整するために十分なボリュームを組み込むことが不可欠であることがわかりました。」と彼女は言いました。
「製品開発者によるこの積極的なプロセスは、医療 IT リーダーが AI 対応ソリューションを評価する際に注目すべきものの 1 つです。」と彼女は続けました。 「AI 製品開発全体を通じて臨床協力と直接関与することによってのみ、私たちは星に手を伸ばし、望遠鏡で遮るもののない視界を確保することができます。」
セッションは、 「患者の転帰を改善するための責任ある AI」は、3 月 12 日の午前 10 時 30 分から 11 時 30 分まで、オーランドの HIMSS24 の W208C 室で開催される予定です。 詳細と登録。
LinkedIn で Bill の HIT 報道をフォローしてください。 ビル・シウィッキー
彼にメールを送ります: [email protected]
Healthcare IT News は HIMSS Media の出版物です。