編集者注：これは、マサチューセッツ総合病院ブリガム校のデイビッド・ヒーニー氏とのAIとサイバーセキュリティに関する2部構成のインタビューの第2部です。第1部を読むには、 ここをクリック。
この詳細なインタビューの第 1 回では、マサチューセッツ総合病院ブリガム病院の最高情報セキュリティ責任者である David Heaney 氏が、医療における人工知能の防御的および攻撃的な使用について説明しました。彼は、環境を理解し、制御が展開されている場所を把握し、基本に精通していることが、AI が関与する場合に非常に重要になると述べました。
今日、ヒーニー氏は、ヘルスケアの CISO と CIO が AI の使用を安全にするために採用できるベストプラクティス、彼のチームによるそれらの使用法、AI の使用と AI に対するセキュリティに関してチームを最新の状態にする方法、AI とサイバーセキュリティの人間的要素、そしてサイバー攻撃に対抗するために使用する AI の種類について説明します。
Q. 医療業界の CISO や CIO が AI の使用を安全にするために採用できるベスト プラクティスにはどのようなものがありますか? また、Mass General Brigham であなたとあなたのチームはそれをどのように活用していますか?
A. 質問の言い方から始めることが重要です。それは、これらの AIの能力は驚くべき変化をもたらすだろう 患者さんへのケアの方法や新しいアプローチの発見方法など、私たちの業界におけるさまざまなことにおいて、私たちは貢献しています。
重要なのは、それをどのようにサポートし、どのように保護するかということです。パート 1 で述べたように、基本を正しく理解することが非常に重要です。したがって、当社のデータを使用する、または当社の環境で実行される AI 駆動型サービスがある場合、リスク評価、ビジネス アソシエート契約、非 AI サービスとのその他の法的契約について、同じ要件が適用されます。
なぜなら、あるレベルでは別のアプリについて話しているのであり、環境内の他のアプリと同様に、承認されていないアプリケーションの使用制限を含めて制御する必要があるからです。ただし、AI 固有の考慮事項がないわけではありません。いくつか思い浮かぶ考慮事項があります。先ほど述べた標準的な法的契約に加えて、データ使用に関する追加の考慮事項が確かにあります。
たとえば、組織のデータをベンダーの AI モデルの下流のトレーニングに使用したいですか? AI モデル自体のセキュリティは重要です。組織は、あらゆるシナリオで正確な出力が得られるように、モデルの継続的な検証に関するオプションを検討する必要があります。これは、パート 1 で説明した AI ガバナンスの一部になります。
モデルの敵対的テストもあります。間違った入力をした場合、出力の仕方は変わりますか? そして、この環境における重要性の点で実際に少し変化しているのが、これらのツールの多くを簡単に導入できるという点です。
例を挙げると、 会議メモ作成サービス Otter AIやRead AIなど、他にもたくさんあります。しかし、これらのサービスは、導入をシンプルかつスムーズに行うよう奨励されており、その点で素晴らしい成果を上げています。
これらのサービスの使用やアクセスできるデータなどに関する懸念は変わりませんが、エンドユーザーによる導入のしやすさと、率直に言って、このアプリケーションや他のアプリケーションの優れた点を組み合わせると、さまざまなアプリケーション、特に AI 駆動型アプリケーションをどのようにオンボーディングするかに重点を置くことが重要になります。
Q. AI によるセキュリティ対策と AI に対するセキュリティ対策に関して、チームをどのように強化してきましたか? ここでは、どのような人間的要素が関係していますか?
A. それは大きなことです。そして、私のセキュリティ チームにとって最も重要な価値観の 1 つは好奇心です。サイバー セキュリティで私たちが行うすべてのことの背後にある唯一のスキルだと言えるでしょう。好奇心とは、ちょっとおかしいことを見つけたときに、「なぜそんなことが起きたのだろう?」と考え、調査を始めることです。
これが、この業界で私たちが行うほぼすべての改善の始まりです。そのため、答えの大部分は、これに興奮し、自分で学びたいと思う好奇心旺盛なチーム メンバーがいることです。そして、彼らは外に出て、これらのツールのいくつかを実際に試します。
私は、さまざまなツールを使って仕事を楽にする方法を共有することで、この分野で模範を示そうとしています。しかし、好奇心に代わるものはありません。MGB のデジタル チームでは、月に 1 日を学習に充てるように努めており、この分野の関連コンテンツを含むさまざまなトレーニング サービスへのアクセスを提供しています。しかし、それに伴う課題は、トレーニングが追いつかないほどテクノロジーの変化が速いことです。
外に出てテクノロジーをいじる以外に何もないのです。しかし、皮肉なことに、私のお気に入りの 生成AIの用途 学習のためです。私がやっていることの 1 つは、「X というタイトルの本の目次を作成してください。X は私が学習したいトピックです。」というようなプロンプトを使用することです。また、著者がどのような人物であるか、本の目的についても少し指定します。
これにより、そのトピックについて学習する方法の優れた概要が作成されます。その後、AI の友人に「ねえ、第 1 章を詳しく説明してもらえますか? それはどういう意味ですか?」と尋ねたり、他のソースや他のフォーラムにアクセスして関連するコンテンツを見つけたりすることができます。
Q. サイバー攻撃に対抗するために、秘密を漏らさずに、どのようなタイプの AI を使用していますか? これらのタイプの AI がどのように機能するのか、また、なぜそれが好きなのかを、もっと広い言葉で説明していただけますか?
A. MGB の総合的なデジタル戦略は、テクノロジー ベンダーのプラットフォームを活用することに重点を置いています。パート 1 のベンダーに関する質問から少し取り上げると、私たちの重点はこれらの企業と協力して最も価値のある機能を開発することであり、その多くは AI 主導型になります。
いわば、金のなる木をばらさないために、少なくとも一般的な意味でそれがどのようなものかを説明すると、当社のエンドポイント保護ツールは、さまざまな AI アルゴリズムを使用して、潜在的に悪意のある動作を識別します。次に、これらのすべてのエンドポイントからのログが中央の収集ポイントに送信され、そこでルールベースと AI ベースの分析を組み合わせて、より広範な傾向を探ります。
つまり、1 つのシステムだけでなく、環境全体にわたって、何らかのリスク上昇を示す傾向はありますか? 当社には Identity Governance Suite があり、これは環境内でアクセスを許可および削除するためのアクセスをプロビジョニングするために使用されるツールです。このツール スイートには、潜在的なリスクを特定し、すでに設定されている可能性のあるアクセスの組み合わせを確認したり、アクセス要求が届いたときにそれを調べて、そもそもアクセスを許可しないようにするさまざまな機能が組み込まれています。
これがプラットフォーム自体とそこに組み込まれているテクノロジーの世界です。しかし、それを超えて、これらの領域のいくつかで生成 AI をどのように使用できるかに戻ると、私たちはそれを使用して、以前は手動で行っていたあらゆる種類のタスクを高速化します。
チームは、数字では表せませんが、膨大な時間の節約ができました。 生成AIを使用する トリアージ、フォレンジック、システムの修復のためのカスタム スクリプトを作成します。完璧ではありません。AI によって、80% 程度は完了しますが、その後はアナリストがスクリプトを最終決定し、最初から実行したり作成したりするよりもはるかに迅速に作業を行います。
同様に、当社ではこれらの AI ツールの一部を使用して、他のツールに入力するクエリを作成しています。これらのツールにアクセスできるようにすることで、ジュニア アナリストが当社のさまざまな他のテクノロジーをより効果的に使用できるようになり、より迅速にスキルを習得できるようになります。
当社の上級アナリストは、とにかく効率的です。彼らはすでに多くのことを実行できる方法を知っていますが、ゼロから始めるよりも 80% から始める方が常に優れています。
一般的に、私はこれを非常に熱心なインターンと呼んでいます。このツールに何でも頼めば、非常に良い出発点から、おそらくは素晴らしい完全な答えまで、さまざまな答えが返ってきます。しかし、自分でチェックして完成させない限り、その答えを使うことは絶対にありません。
ここをクリック このストーリーには含まれていないボーナスコンテンツを含むこのインタビューのビデオをご覧ください。
編集者注: これは、人工知能の使用について医療 IT 業界の第一人者を取り上げ、特集シリーズの第 10 回目にして最終回です。他の記事もお読みください:
LinkedIn で Bill の HIT 記事をフォローしてください: ビル・シウィッキ
彼にメールを送る: お問い合わせ
Healthcare IT News は HIMSS Media が発行する出版物です。