ヘルスケア AI には厳格なモニタリングが必要だとデータサイエンティストが語る

ヘルスケア分野では人工知能が台頭しており、自社ソリューションとサードパーティのソリューションの両方が市場に浸透し始めています。 しかし、健康状態の監視や、これらの AI 製品が現実世界に与える影響は、導入後に見落とされることがよくあります。 多くの AI 製品は厳密なモニタリングを欠いており、患者や業務にリスクをもたらします。

Hackensack Meridian Health の主任データ サイエンティストである Bommae Kim 氏は、AI をめぐる焦点は開発段階におけるテクノロジーとパフォーマンスの側面に集中することが多いと述べました。 これにより、これらの AI アプリケーションの導入と導入後の影響評価の重要な段階が無視されます。

フロリダ州オーランドで開催される HIMSS24 カンファレンスでこのテーマについて講演する予定のキム氏は、定量的手法の博士号と行動科学の修士号を誇っています。

「このギャップに対処するために、製品パイプライン、モデルのパフォーマンス、ユーザーの行動、ビジネスへの影響という 4 つの主要領域をカバーする堅牢な監視フレームワークを開発しました」と Kim 氏は述べています。 「目的は、潜在的な問題を検出し、重大なエラーを防止し、社内とサードパーティの両方の AI ソリューションのプログラムの有効性を測定することです。

「AI は注目のトピックですが、残念ながら、AI ソリューションの開発と展開とは対照的に、監視の重要性はしばしば見落とされます」と Kim 氏は述べています。

目的は、潜在的な問題を検出し、重大なエラーを防止し、社内とサードパーティの AI ソリューションの両方のプログラムの有効性を測定することです。

ダッシュボードの開発とメンテナンスを合理化するために、Hackensack は標準化されたメトリクスと統一されたデータ モデルを備えたダッシュボード テンプレートを設計しました。 この監視システムにより、製品チーム、関係者、リーダーの間で AI 製品への影響についての議論が促進されるとキム氏は述べています。 自動アラート システムは、懸念されるパターンを製品チームに即座に通知し、誤った結果がエンド ユーザー アプリケーションに到達するのを防ぎ、患者の安全とコンプライアンスを確保します。

チームは AI アプリケーションを評価および監視し、AI を活用した効果的、安全、公平な患者ケアと手術を保証します。

「AI ソリューションのモニタリングにより、AI ソリューションが現実世界に与える影響について、利害関係者との有意義な議論が促進されます。これは見落とされがちな側面です」と Kim 氏は述べています。 「この監視フレームワークは、AI モデルの開発だけに焦点を当てるのではなく、統合されたワークフローを設計し、ユーザーの採用を強化することで、AI の使用を最適化するのに役立ちます。」

Kim 氏のセッション「AI アプリケーションの健全性と現実世界への影響のモニタリング」は、3 月 12 日の午後 4 時 15 分から 4 時 45 分まで、オーランドの HIMSS 24 の W307A ルームで開催される予定です。 詳細と登録。

ジェフ・ラガス ヘルスケア・ファイナンス・ニュースの編集者です。
Eメール： [email protected]
ヘルスケア・ファイナンス・ニュースは、 ヒムス メディア掲載。