より包括的な健康チャットボットを設計するためのロードマップ

ウェストミンスター大学の研究者。 インディアナ大学キンゼイ研究所とポジティブ イーストは、人工知能チャットボットの包括性、受容性、エンゲージメントを高めるためのコミュニティ主導のアプローチを開発するために、英国の国民保健サービスと世界保健機関のリソースを検討しました。

なぜ重要なのか

会話型 AI のバイアスを軽減し、その設計と実装をより公平にする活動を特定することを目的として、研究者は、2022 年に更新された実装研究のための統合フレームワークを含む、新しいヘルスケア テクノロジを評価および実装するためのいくつかのフレームワークを検討しました。

データのセキュリティとガバナンス、倫理的懸念、多様なトレーニング データセットの必要性など、会話型 AI テクノロジーに関連する固有の課題に対処するためのガイダンスがフレームワークに欠けていることが判明したとき、彼らは概念フレームワークの草案を使用してコンテンツ分析を行い、関係者に相談しました。

研究者らは、リプロダクティブ・ヘルス、性的健康、AI、ロボット工学、臨床安全の専門知識を持つコミュニティメンバー10人、医師、開発者、精神保健看護師など、多様な背景を持つ主要な関係者33人にインタビューしたという。

を使用して、 フレームワークメソッド インタビューからの質的データを分析して 10 段階のロードマップを作成するため、会話型 AI による健康の公平性の達成: ヘルスケアにおける包括的なチャットボットの設計と実装のためのロードマップ、木曜日に PLOS Digital Health に掲載されました。

の 報告 AI チャットボット開発の 10 段階をガイドします。コンセプトと計画に始まり、安全対策、予備テストの構造、医療統合と監査とメンテナンスのガバナンス、そして終了で終わります。

ウェストミンスター大学で研究を主導したトマシュ・ナダルジンスキー博士によると、包括的なアプローチは、偏見を緩和し、信頼を育み、疎外された人々の成果を最大化するために極めて重要であるという。

同氏は声明で「AIツールの開発は、有効性と安全性の基準を確保するだけでなく、それを超えたものでなければならない」と述べた。

研究者らは、「会話型AIは、年齢、民族、宗教、性別、性同一性、性的指向、社会経済的地位、障害などの要因により、少数派の人々に不当に影響を与える特定の病気や状態に対処するように設計されるべきである」と述べている。

関係者は、会話型 AI が軽減できる公衆衛生格差を特定することの重要性を強調しました。 彼らは、最初から、初期ニーズ評価の一環として、ツールが作成される前に実行されると述べました。

研究者らは、「デザイナーは、会話型AIが影響を与えたり変化させたりすることを目的とした行動や健康の結果を定義し、設定する必要がある」としている。

関係者らはまた、会話型 AI チャットボットを医療現場に統合し、サービスを提供する予定のコミュニティからの多様な意見を取り入れて設計し、可視性を高めるべきだと述べた。 自信を持って正確性を確保し、データの安全性を保護し、患者団体や多様なコミュニティによってテストされる必要があります。

研究によると、Health AI チャットボットは、最新の臨床、医療、技術の進歩によって定期的に更新され、ユーザーのフィードバックを組み込んで監視され、医療サービスとスタッフの作業負荷への影響について評価される必要があります。

関係者らはまた、医療へのアクセスを拡大するためのチャットボットの使用は既存のケア経路に実装する必要があり、「スタンドアロンのサービスとして機能するように設計されてはいない」とし、地域のニーズに合わせて調整する必要があるかもしれないとも述べた。

より大きなトレンド

お金を節約するAIチャットボット 医療分野では、より複雑なタスクを処理できるほどテクノロジーが進歩する一方で、簡単なタスクはチャットボットに移行し、クロール、ウォーク、ランの取り組みになると予測されていました。

2022 年末に ChatGPT によって会話型 AI があらゆる分野で利用可能になって以来、ヘルスケア IT 開発者は、情報を表面化し、コミュニケーションを改善し、管理タスクの時間を短縮するために、ChatGPT のテストを本格化させてきました。

昨年、UNC Health は社内で 生成AIチャットボット このツールを臨床医と管理者の少人数のグループで使用することで、スタッフがコンピューターの前に座る時間を減らし、患者と過ごす時間を増やすことができます。 現在、他の多くのプロバイダー組織が業務に生成 AI を使用しています。

AIが活用されているのは、 患者のスケジュール管理 再入院を減らし、社会的健康上の不平等を解消するために、退院後の患者に協力します。

しかし、 信頼が重要です 医療業界のリーダーらによると、AI チャットボットは医療分野での使用に適しており、綿密に開発する必要があるとのことです。

ノースウェル・ヘルス社の臨床情報コンサルタント、キャスリーン・マッツァ氏は、HIMSS24バーチャル・ケア・フォーラムのパネルセッションで、「どこかで最後に人間がいる必要がある」と語った。

「オンラインで人々に靴を販売しているわけではありません。これはヘルスケアです。」

記録上

「私たちには『AI for Good』の力を活用し、健康格差などの差し迫った社会課題の解決に向ける責任がある」とナダルジンスキー氏は声明で述べた。

「これを実現するには、AI の作成方法におけるパラダイム シフトが必要です。設計から展開までのライフサイクル全体を通じて、多様なコミュニティとの共同生産を重視するものです。」

Andrea Fox は、Healthcare IT News の上級編集者です。
Eメール： [email protected]
Healthcare IT News は HIMSS Media の出版物です。