過剰反応せずに行動する: リーダーがジェネレーティブ AI で取っている慎重なアプローチ

JD ウィットロック、デイトン小児病院 CIO

人工知能は、おそらくヘルスケアのどのトピックよりも多くの会話、会議パネル、ポッドキャストのテーマとなっています。人工知能はすでに飽和点に達したと考える人もいますが、まだ渇望している人もいます。それには十分な理由があります。

その一人が、Inova Health System の CISO である Paul Curylo 氏です。同氏は、Generative AI (GenAI) は「私たちが直面している問題に対する革新的なソリューションを生み出す能力を活用する素晴らしい機会」を提供すると考えています。しかし、組織が ChatGPT のようなツールの実装を競う中、サイバーセキュリティがスタートラインで置き去りにされないようにすることが、これまで以上に重要になっています。

「セキュリティの部分に関しては、うまく対応し、期待する価値を実現するために、事前にもっと注意を払う必要があると思います」と彼は付け加えた。最近の 議論Curylo 氏と、共同パネリストの JD Whitlock 氏 (デイトン小児病院 CIO)、Ed Higgins 氏 (Quisitive のセキュリティおよびコンプライアンス ソリューション担当エグゼクティブ ディレクター兼セキュリティ オフィス リーダー)、Jimmy Ledbetter 氏 (Quisitive の AI 戦略およびサービス担当 VP) は、AI の導入に伴うセキュリティ リスク、ソリューションを評価する際の主要な考慮事項、適切なパートナーの選び方について講演しました。

ドキュメントの作成

デイトン小児病院では、ホイットロック氏のチームが、医療文書作成など、ケア提供プロセスの効率化につながるさまざまな分野でアンビエント AI を活用することを検討しています。Inova は GenAI を使用して、医療従事者と患者間のコミュニケーションを改善し、セルフ スケジューリングを可能にしています。

キュリロ氏は、その目的は「医師と臨床医の間の摩擦を軽減すること」だと指摘し、「私たちは投資収益率を求め、それが私たちのコミュニティにとって意味があるかどうかを検討しています」と語った。

レッドベター氏によると、もう 1 つの有望な使用例はドキュメント生成であり、GenAI は「これまでに見たことのない方法で非構造化データにアクセスできるようにしました」と彼は述べています。「臨床医がメモを取るとき、ドキュメントを作成するために 3、4、または 5 つの異なるシステムにアクセスする必要があります。彼らは「ここに診断があり、ここに患者の記録があります。これらすべてをどうやってまとめればいいのでしょうか?」と尋ねます。パイプラインの構築を開始し、自然言語を使用して情報をより効果的に整理する機能は、「膨大なバックオフィス時間」を節約できることを Quisitive は発見しました。

ヒギンズ氏もこれに同意し、GenAI は回答済みの質問のナレッジベースを活用し、質問への対応のニュアンスを拾い上げて回答を生成できると付け加えました。これにより、ヒギンズ氏のチームは顧客とより迅速かつ効果的にやり取りできるようになりました。

サイバーに関する考慮事項

もちろん、これには裏がある、とホイットロック氏は言う。「生成 AI を搭載したクールな新ツールを開発したと私を納得させることはできます。それは素晴らしいことです。しかし、PHI に触れる前に、サイバーセキュリティ チームが適切な作業をすべて実行していることを確認する必要があります」と同氏は言う。これは、GenAI に限らず、どのツールでも同じことが言える。

Curylo 氏は、機密データがモデルに取り込まれると、それを取り出すのは非常に困難であると指摘しました。「すべて取り込んだと確信するにはどうすればよいでしょうか。おそらくこれが私が抱える最大の懸念です」と同氏は指摘しました。もう 1 つは、データの整合性を追跡する能力です。「入力部分に多くの責任があり、取り込むデータが実際に取り込むデータであることを確認する必要があります」。情報をモデルに取り込むプロセスが「少しずさん」だった場合、それは起こり得ることですが、「それは将来的に何らかの問題を引き起こすことになります」。

そこで 好奇心旺盛 ヒギンズ氏は、「私たちは技術導入者であると同時にコンサルタントでもあります。セキュリティの観点から何千もの環境を調査し、弱点がどこにあるかを特定してきました」と語りました。その結果、ヒギンズ氏は、GenAI を安全かつ効果的に実装するための長期ロードマップから始めて、データを保護するための適切な手法を推奨する立場にあると考えています。

以下では、パネリストが自らの経験に基づいていくつかの重要なベストプラクティスを共有しました。

• 問題から始めましょう。 Curylo 氏によると、どんな取り組みでも、まず「なぜ」に焦点を当てることが不可欠だという。「私たちはすべてを止めて AI を導入するつもりはありません。しかし、話し合いを始めると、根本的な理由、そして解決すべき問題にたどり着くのです」
• 統合を優先します。 ウィットロック氏にとって、デイトン チルドレンズ病院のコア システムである Epic と「スムーズに統合」できるベンダーを選択することは重要です。「AI を使って何か新しいクールなことをしたいなら、統合する必要があります。これは医師や看護師に伝えていることと同じです。つまり、臨床ワークフロー内で機能する必要があるということです。」
• 自制心を働かせてください。 レッドベター氏が目にしたよくある間違いとは？「人々はすべてのデータをモデルに投入しようとしています。彼らが持っているアプリケーションは基本的にパンドルの箱のようなもので、必要なものはすべて揃っています」と彼は言います。代わりに、彼はリーダーたちに「アプリケーションごとに AI について考える」ようアドバイスしました。AI データベースを使用することで、彼のチームは「データをサブセット化し、関連するユースケースをそのインデックスにロード」することができます。その方法とは、「彼らはすべてにアクセスできないのです。私たちはデータベースをロックダウンできます。アプリケーションをロックダウンできます」。
• 専門家を呼びましょう。 キュリロ氏は、医療制度にすでに技術に精通した専門家がスタッフとしていない限り、技術パートナーを見つけることが不可欠だと固く信じている。そして、単に「創造的に問題を解決」できる人だけではなく、「悪用や策略を理解し、それが組織や患者にどのような害を及ぼすかを理解するために、あえて代弁してくれる人」も必要だと同氏は言う。「それが特に重要です」
• 狭い焦点を避けてください。 多くの組織にとって、答えはコンサルタントを雇うことです。ただし、コンサルタントを選ぶ前に、「そのコンサルタントが幅広い分野をカバーしており、1 つの分野の専門家ではないことを確認してください」と Ledbetter 氏は指摘します。その分野には、データ、アプリケーション、インフラストラクチャ、セキュリティが含まれており、そのすべてが AI に関係しています。「データ面は非常に優れているが、アプリケーション開発やイノベーションを軽視している人がいます」と、セキュリティ リスクが増大する可能性があります。
• 枠の外に出てください。 パートナーを選ぶ際のもう一つの確かなアドバイスは、戦略がテクノロジーだけにとどまらないようにすることです。「教育の面でパートナーになってくれるでしょうか？LLM の仕組みや、モデル自体にデータを取り込む方法を理解するために協力してくれるでしょうか？真のパートナーになる必要があります」と Ledbetter 氏は言います。
• 難しい質問をしてください。 Ledbetter 氏によると、このプロセスで絶対に重要な部分は、実際にそれが実行可能なユースケースであるかどうかを判断することです。「私たちはビジネス ユーザーと協力して、『最終結果はこうなります』と言います」と同氏は言います。「以前、ROI の議論に取り組んだことがありますが、そこでは『これで 1 か月あたり 100 時間の節約になります』と言われました。本当に投資する価値があるのでしょうか?」一方、プロジェクトによっては、年間数十万時間の節約につながることもあります。すべての関係者が、「簡単にできる成果」はあまり価値を生まない可能性があることを理解することが重要です。「私たちは真のパートナーとなり、共に成長する必要があります」。

そして、リーダーたちが適切なパートナーと適切なソリューションを見つけたら、パネリストたちは、ユーザーが AI ツールを試すことができる「サンドボックス」へのアクセスを提供することを推奨しました。レッドベター氏によると、これはユーザーが新しいソリューションに慣れるのに役立つだけでなく、シャドー AI を防ぐのにも役立つそうです。「実験を許可しないことで、ユーザーは LLM の Web サイトにアクセスし、自分のデータでモデルをトレーニングできるようになります」と同氏は言います。「私たちは、それを非常にクリーンで制限された環境に保つためにサンドボックスを立ち上げています。」

そうした取り組みを行った組織は素晴らしい成果を上げていると、レッドベター氏は付け加えた。「ライブアクションのプロトタイピングなどを提供すると、たいてい満員になります。人々は参加したがっています。彼らは、それがどのようなものか私たちにわかりやすく説明してもらいたいのです」と同氏は指摘した。Quisitive にとって、「人々をテーブルに招き、プロトタイプを見せることができたことは、卓越した研究拠点の開発に役立っています」。

最後に、パネリストらは、AI ソリューションを評価する際には慎重になり、「取り消すのが困難、あるいは不可能になるような行動方針にコミットする前に、できるだけ客観的になる」よう聴衆に促したと Curylo 氏は指摘した。「私たちは皆、革新的で創造的でありたいと願っていますが、適切な適合性を確保するには時間をかける必要があります。」

しかし、時間をかけすぎないようにとウィットロック氏は助言した。「私たちはパワー カーブに遅れをとりたくありません」と同氏は述べ、特にアンビエント AI のような有望なものに関してはそうである。実際、1 年後も医療システムがまだこの分野に踏み込んでいない場合、「医療提供者から声が聞こえてくるでしょう」と同氏は考えている。特に、同僚から、特定のツールによって文書作成が容易になり、患者が満足していると聞かされた場合はなおさらだ。「これらのツールは、医療提供者にとって標準的なケアになるでしょう。それが強制力です」。

そして、この機能がケアの提供方法においてますます重要な役割を果たすようになるにつれて、CIO やその他のリーダーにとって、適切な要素が確実に整っているようにすることが不可欠になります。「私のアドバイスは、生成 AI に関することに過剰反応しないことです。なぜなら、人、プロセス、テクノロジー、適切なガバナンス、適切なサイバーセキュリティという同じルールがすべて適用されるからです」と同氏は言います。「これらの中核となる要素をあきらめないでください。」

このウェビナー「AIプロジェクトに関するセキュリティリスクの理解と軽減」のアーカイブをご覧になるには、 ここをクリック。