ITリーダーは、AIの問題に対処することでイノベーションを促進することができます

ミシガン史上最大の医療システム統合の1つからほこりが落ち着いたとき、Corewell Healthのチーフデジタルおよび情報責任者であるJason Josephは、新しいフロンティアに直面していることに気付きました。

CorewellがSpectrum Health、Beaumont Health、Lakeland Health、およびHealth Plan Prionity Health（21の病院、65,000人の従業員、140万人の健康計画メンバー）の下で、Joseph’sチームが既に実行されていたため、インフラストラクチャ、サイバーセキュリティ、ERPシステム、およびエピックインスタンスの順調な組織全体を統合していました。

しかし、ChatGPTのような生成的AIツールの出現により、もう1つの課題は緊急の注意を要求しました。これは、コントロールを失うことなくイノベーションを促進する方法です。

ポッドキャスト： 新しいウィンドウで再生します | ダウンロード （期間：32:43 – 22.6MB）

購読する： アップルポッドキャスト | Spotify | アンドロイド | パンドラ | iheartrodo | ポドカセー | ポッドキャストインデックス | メール | チューン | RSS

「そのすべての中で、AIは新しい電気になりました」とジョセフは語り、技術の遍在性を産業時代を形作った変革力に例えました。 「私たちは非常に早い段階で、探索する能力とそれを安全に行うフレームワークの両方を提供するものを構築する必要があることに気付きました。」

その「何か」は、GuardRailsを設定し、エンタープライズ全体のAI関連のイニシアチブに関するガイダンスを提供するように設計された開発チームではなく、ガバナンス機関であるAI Center of Excellence（AICOE）になりました。

集中コマンドを超えて

最初、AICOEは、AIの能力を探求する臨床医、技術者、コンプライアンス担当者、およびその他の利害関係者の非公式の集会でした。時間が経つにつれて、それは、Corewellのデータおよび分析部門に報告する、新しく任命された分析およびAIサービスのディレクターの下で、より構造化された機能に進化しました。

重要なことに、ジョセフはAICoeがすべてのAIプロジェクトを実行するための集中チームにならないことを断言しました。 「イノベーションに最も近い人々は、それを活用する方法を理解する人たちです」と彼は言いました。 「私たちの仕事は、適切なフレームワーク内で彼らが作業していることを教育し、サポートし、保証することです。」

Corewellのアプローチは、チーフAI役員を任命し、集中執行チームを設立した一部のピアのアプローチとは対照的です。ジョセフは、それがスケーラブルまたは効果的であると確信していません。 「AIは、私たちのコアアプリケーション、サードパーティサービス、ソリューションで自分自身を構築する予定です」と彼は言いました。 「単一のグループを通じてAI関連をすべて所有しようとすることは近視眼的です。」

彼はそれを電化の初期に例えています。 「おそらく、産業革命の間に最高の電力担当官がいたでしょう。しかし、最終的に、知識は組織のあらゆる部分に拡散しなければなりませんでした。」

Corewellのモデルは、進行状況をボトルネックする代わりに、AIの専門知識を外側に向けることを目指しています。 1つの例：システムがアンビエントドキュメントツールを操縦したとき、実装はスタンドアロンAIチームではなく、最前線のワークフローをサポートする臨床情報学およびコアシステムグループによって導かれました。

「臨床ワークフローを理解していなかったチームがそのようなものが左フィールドから入った場合、それは最適化されません」とジョセフは説明しました。 「問題とテクノロジーの両方を理解している人々が欲しいです。」

適切なツール、正しい仕事

一部のヘルスシステムはまだ生成的AIユースケースを実験していますが、ジョセフと彼のチームは、ユーザーに代わってマルチステップタスクを実行できるエージェントAIを掘り下げて、いくつかのステップを考えています。

しかし、彼はすべてのAIを単一のバケツにまとめることに対して警告しています。 Corewellのアプローチは、手元の特定の課題に基づいて異なります。 「たとえば、放射線は検出に関するものです」と彼は言いました。 「あなたは何百万もの画像でモデルをトレーニングしています。しかし、それはドキュメントを要約したり、コンテンツを作成したりする生成AIとはまったく異なります。」

各ユースケースには、適切なタイプのAIと適切なガバナンスモデルが必要です。 「私たちにはまだ技術的な専門家が必要です。まだ良いガバナンスが必要です」とジョセフは指摘しました。 「しかし、問題に一致するための適切なプロセスも必要です。」

それはデータ戦略にまで及びます。 AIの高品質データへの依存はよく理解されていますが、そのデータの性質は変化しています。従来、ヘルスシステムは、EHRSおよび分析プラットフォームからの構造化されたデータに焦点を当てていました。しかし、新しいAIモデルは、非構造化されたソース、つまりポリシー、イントラネットページ、トレーニングマニュアルにますます依存しています。 「最高のデータ責任者は、これらの文書をデータエステートの一部とさえ考慮していないかもしれません」とジョセフは言いました。 「しかし、AIにとっては絶対にそうです。」

これにより、Corewellはエンタープライズデータの定義を拡大し、AI開発が存在する場所を再考するようになりました。多くの場合、ジョセフは、従来のデータサイエンスグループよりもワークフローオートメーションチームに近いと述べた。

理論から実践への移行

CorewellがAIの革新を可能にするインフラストラクチャを構築しているにもかかわらず、Josephはその制限と今後の社会的課題について明確に目を向けています。

ヘルスケアでは、AIは、特に診断のようなハイステークス設定で、ループ内の人間と一緒に動作することがよくあります。しかし、そのモデルには欠点があります。 「マシンが人間よりも正確であるポイントがあります」とジョセフは言いました。 「それで、人間は何をしているのですか？箱を何度もチェックするだけですか？それはスケーラブルではありません。」

自動化が改善するにつれて、彼は、特に労働力不足と財政的制約の中で、アルゴリズムが独立して動作するように圧力がかかると考えています。しかし、その移行は、テクノロジーだけでなく、規制、リスク許容度、および国民の信頼にも依存します。

さらに、ジョセフは「ループの人間」システムに対する誤った信頼に反対して警告しています。自動化されたツールが改善するにつれて、人間は細心の注意を払うのをやめるかもしれません。 「ループに人間を置くのは素晴らしいことですが、エラー率が十分に低くなると、人々はチェックアウトを開始します」と彼は言いました。 「それは誤った安心感になります。」

これらの複雑さにもかかわらず、ジョセフは、特に戦略的および実用的に努力を構築する組織にとって、AIの変革の可能性について強気のままです。 「AIへのあなたのアプローチは本当の問題です」と彼は言いました。 「AICOEは1つの作品にすぎません。それは、どのように市場に出てチームを連れて行くかについてです。」

それを奪ってください

大規模な健康システムでAI統合を管理するITエグゼクティブの場合、ジョセフの経験は多くの実用的な洞察を提供します。

• 責任を分配します。 AIは、単一のグループに集中することではなく、影響を与えるワークフローに最も近いチームに埋め込む必要があります。
• 実行ではなくガバナンスにAICOEを使用します。 CorewellのAI Center of Excellenceは、ポリシーとガードレールを設定しますが、運用チームに実装を残します。
• 教育に焦点を当てます。 AIの可能性と制限を理解するために、技術的およびビジネスリーダーを装備します。
• データ戦略を再考します。 AIは、従来のデータチームによって見落とされがちなドキュメントを含む、構造化されたデータと非構造化データの両方が必要です。
• AIツールを特定の問題に一致させます。さまざまなユースケース（破壊学、カスタマーサポート、アンビエントリスニング）は、さまざまなタイプのAIを要求します。
• 自動化の疲労を予測します。 AIがより正確になるにつれて、人間は監視タスクから離れる可能性があり、新しいリスクを引き起こす可能性があります。
• 革新とリスクのバランス。組織は、倫理的および安全性落とし穴を避けるために明確なポリシーを確立しながら実験する必要があります。

最終的に、ジョセフは、AI時代に繁栄している組織は、それを統治するだけでなく、彼らの労働力を可能にする組織になると信じています。 「ガードレール内の人々に力を与える必要があります」と彼は言いました。 「AIはどこにでも適用する必要があります。臨床システム、コールセンター、バックオフィス。「私たちはすべてのAIを行う」と言うチームは、それをすべて行う方法を決して知りません。それは大丈夫です。それは目標ではありません。」