テクノロジーリーダーがAIインキュベーターと共同研究でMAGICの実現を目指す

ウンベルト・ファリアス氏は、生成型 AI の爆発的な成長を非常に注意深く見守ってきました。

ファリアス氏は、モバイル、ウェブ、デジタルトランスフォーメーション、人工知能の分野でのソフトウェア開発とプログラミングを専門とするテクノロジー企業、コンセプタ テクノロジーズの共同設立者兼会長です。

例えば、彼は、Apple が生成 AI を iPhone を所持する何億人もの人々の生活の中心に据えていることに気づいた。しかし、最近のデータ漏洩、患者のプライバシー問題、その他の IT 問題により、医療 IT チームが AI をツールではなく脅威と見なす傾向が強まるのではないかと懸念しているという。

問題は、医療システムがどのようにして貴重な患者データを保護しながら利益を得ることができるかである。 生成AIの利点?

ファリアス氏は、人工知能と先端技術のための共同研究プログラム、仮想インキュベーター、サービスセンターであるコンセプタ・マシン・アドバンスメント・アンド・ジェネラル・インテリジェンス・センター（MAGIC）を立ち上げました。

ヘルスケアITニュース 最近、ファリアス氏と話をして、MAGIC について詳しく学び、ヘルスケア業界の CTO から人工知能の導入について聞かれる懸念を理解しました。ファリアス氏は、AI と学習を安全に導入するためのヒントと実例を提供し、AI と機械学習がヘルスケアを変革し続ける中で、病院や医療システムの CIO、CISO、その他のセキュリティ リーダーが主に注力すべき点について説明しました。

Q. 新しい組織「MAGIC」について教えてください。目標は何ですか?

A. 私たちの使命は、AI 研究開発の限界を押し広げながら、現実世界の問題に対処する実用的なアプリケーションとサービスを提供することです。MAGIC では、基礎技術と応用ソリューションの両方に関する最先端の研究を促進し、初期段階の AI ベンチャーをサポートおよび育成し、AI スキルの専門家を教育およびトレーニングし、コンサルティングサービスを提供し、コラボレーション ネットワークを構築することを目指しています。

私たちの最初のパートナーシップには、患者、病院、臨床チームの医療を改善することに尽力する医療会社が含まれています。彼らは評価、分析、教育を組み合わせ、それをすべて測定して、すべての人の医療を改善します。私たちのパートナーシップを通じて、私たちは AIの実装 チームにとってプログラムをさらに効率的かつコスト効率よく実行できるようにします。

当社は、AI の導入に関して大規模な医療システムが直面しているいくつかの重要な問題について、積極的に協力しています。当社は Advent Health などの医療システムと他のソフトウェア テクノロジーで協力しており、医療が直面する独自の規制や患者のセキュリティの問題に対処する十分な体制を整えています。

Q. ヘルスケア業界の CTO から、ビジネス構造に AI を導入することに関して直接聞いた懸念にはどのようなものがありますか?

A. ヘルスケア業界の CTO から聞いた話では、ビジネス構造への AI の導入に関して彼らが最も懸念しているのは、依然としてデータのプライバシーとセキュリティです。医療業界の幹部は、HIPAA やその他の規制による厳格な規制を考慮して、患者の機密データのプライバシーとセキュリティを最優先事項にしたいと考えています。

また、AI ソリューションを従来のシステムとどのように統合できるか、互換性があるかどうか、また AI ソリューションがすべての関連法とガイドラインに準拠していることを保証するために複雑な規制環境をどのように乗り越えるかについても、躊躇があります。

また、コストがかかる AIを導入する、そして多くのヘルスケア CTO は、このテクノロジーがもたらす投資収益率について確信が持てません。私は常に、同僚と協力し、サイロ化せずに業務を遂行することで、これらのコストを削減する方法を模索しています。つまり、失敗から学び、業界の他のリーダーの成功を基に構築することです。

それに加えて、AI システムの開発、実装、管理を行う熟練した人材も不足しています。医療システムはすでに予算が厳しく、削減も進んでいるため、AI 研究プログラムと連携することでこのニーズを満たし、機関全体で AI の使用を促進することができます。

私たちは、反復的な管理タスクを最小限に抑えるといった単純なことや、医療提供者のワークフローや実際の患者のケアを改善できる大規模なプロジェクトに AI を活用する方法について医療システムに啓蒙する取り組みを行っています。

最後に、AI に関しては常に倫理的な懸念があり、ヘルスケア CTO は、特に患者のケアに直接影響を与える決定において、AI が倫理的に使用されるようにしたいと考えています。この分野での最大の懸念は、インフォームド コンセントとデータの偏りです。

患者は、AI が自分のケアに含まれていることを認識する必要があり、また、AI アルゴリズムのトレーニングに使用されるデータが、さまざまな人口統計グループ間の医療成果の格差を悪化させる偏った医療決定につながらないようにする必要があります。

Q. 特に機密性の高い医療データを考慮して、AI を安全かつ確実に導入するためのヒントや実際の例を教えてください。

A. 医療経営者が AI を安全かつ確実に導入する方法はいくつかあります。その 1 つは、データの暗号化です。不正アクセスから保護するために、ネットワーク間および記録システムに保存されるときの両方で、機密性の高い医療データを常に暗号化することが重要です。

もう 1 つのヒントは、権限のある担当者だけが機密データにアクセスできるように、堅牢なアクセス制御メカニズムを実装することです。大規模な医療センターでは、多要素認証、ロールベースのアクセス制御、24 時間 365 日の監視システムを導入する必要があります。定期的なセキュリティ監査の実施は、継続的な監視によって潜在的な脅威を迅速に検出し、対応することで、セキュリティと安全性を確保するもう 1 つの方法です。

コンプライアンスを規制することは信頼を確保するためのもう一つのヒントです。これを行うには、 AI導入の調整 HIPAA や GDPR などの規制フレームワークに準拠します。AI の使用に関する倫理ガイドラインの策定と遵守を優先し、公平性、透明性、説明責任に重点を置くことももう 1 つのヒントです。

たとえば、スタンフォード ヘルスケアには、AI プロジェクトに潜在的な倫理的問題がないか審査する倫理委員会があります。

Q. 医療分野で AI が爆発的に普及し続ける中、病院や医療システムの CIO、CISO、その他のセキュリティ リーダーが主に注力すべき点は何だと思いますか?

A. 医療における AI の使用は避けられないため、CIO、CISO、その他のセキュリティ リーダーの主な焦点は、データのプライバシーとセキュリティを継続的に確保し、患者データを侵害から保護することです。最優先事項は、プログラムが規制に準拠していることを確認することです。

ヘルスケアリーダーは、パフォーマンスやセキュリティを損なうことなく AI アプリケーションをサポートできる、拡張可能で安全な IT インフラストラクチャの開発にも重点を置く必要があります。次に、このシステムをサポートするために、スタッフからプロバイダー、経営幹部まで、あらゆるレベルのスタッフに最新の AI テクノロジーとセキュリティ プラクティスに関する継続的なトレーニングを提供し、人的エラーに関連するリスクを軽減します。

フェイルセーフ計画を確実に実施するために、医療リーダーは、定期的な評価、インシデント対応計画、継続的な改善を含む包括的なリスク管理戦略を策定し、維持する必要があります。

コラボレーションは、私たちが住む世界の課題に対処できる最高のチームを作るための鍵であり、IT、セキュリティ、臨床チーム間のコラボレーションを促進して、セキュリティとコンプライアンスの標準を維持しながら、AI ソリューションがすべての関係者のニーズを満たすようにします。

HIMSS AI in Healthcare Forum は、9 月 5 日から 6 日までボストンで開催される予定です。 詳細と登録。

LinkedIn で Bill の HIT 記事をフォローしてください: ビル・シウィッキ
彼にメールを送る: お問い合わせ
Healthcare IT News は HIMSS Media が発行する出版物です。