医療における生成AIの責任ある使用に関する考慮事項

ヘルスケアにおける生成 AI のユースケースへのガードレールの適用

最高医療責任者のリース・ステイツ博士は、 米国保健福祉省は、生成型AIはさまざまな公衆衛生システムの課題に適用できる可能性のあるツールセットであると述べた。しかし、彼が懸念しているのは、米国におけるガバナンスの欠如である。活用を推進する動きはあるものの、 技術を管理するための意図的なアプローチ州によれば。

2023年10月、ホワイトハウスは AIの使用に関する大統領令各州は、この文書は非常に規範的で機敏性に欠けると述べた。しかし、HHS は命令の原則を採用し、AI タスクフォースとプレイブックを作成した。

「我々が何を目指しているかについて共通の理解のもとで調整が図られ始めているように見え、それは非常に爽快だ」と彼は付け加えた。

パトリシア・マクタガート、教育インストラクター兼プログラムディレクター ジョージ・ワシントン大学ヘルスケアにおけるAIの導入を、 電子健康記録。

「私たちは共通の理解を持っていませんでした。同じ会議で2つの異なることを話していたのです」と彼女は説明した。

マクタガート氏は、患者エンゲージメント、臨床ワークフロー、管理効率のいずれを目的とした使用であっても、業界が実装に関する会話を進めるのに役立つ AI に関する議論のフレームワークを作成することを推奨しました。

「これらのユースケースにはガードレールが必要です。そのため、最低限の基準だけでなく、私たちが求めている可能性と今日の現実も把握しています」と彼女は付け加えた。「これはイノベーションです。進化が起こります。うまくいくものもあれば、うまくいかないものもあります。 それらのリスクを理解する そして、私たちが行っているそれぞれのユースケースにそれらのガードレールを適用します。」

探検する： 運用 AI 変革をマスターするために役立つ 3 つのヒント。

データの品質と透明性の重要性

「データは、生成型 AI の成功の基盤です」と Coley 氏は述べ、モデルに含まれるデータが多ければ多いほど、モデルが一般大衆をよりよく代表するようになる可能性が高いと説明した。「データは、AI の妨げにならず、より効果的なものにするためのトレーニングの基準となる、より優れた予測モデルを提供します。」

MacTaggart 氏は、医療機関が AI を成功させるには良質なデータが必要であると同時に、データをサポートする強固なインフラストラクチャも必要であると指摘しました。

しかし、生成 AI ツールに関しては、医療専門家はモデルのトレーニングに使用されたデータセットに関する情報をあまり持っていない可能性があります。

ハイジー・グローブ氏は、業界は疑問を持ち、透明性を高めるよう要求する必要があると述べた。また、組織が独自の知識ベースを構築し、独自のデータを提供し始めることを提案した。 大規模言語モデル そうすれば、適切な回答を提供できるようになります。これでは、より大きな文化的な問題や偏見は解決されませんが、AI と関わる人々が、どのようなデータが含まれているのか、また、どのデータが不足しているのかを知るのに役立ちます。Heisey-Grove 氏は、結果を人間が検証することも推奨しています。

「まだそれだけでは信頼できない」と彼女は語った。