AI は何十年も前から医療現場で使用されてきました。さらなる規制を望む人もいる：-

アイシャ・ラスコー、ホスト:

人工知能は、インターネット上での面白い画像の作成からオフィスの記録の整理に至るまで、あらゆるものに使用されています。そしてますます、それは医療にとって不可欠な要素でもあります。しかし、一部の患者擁護団体は懸念している。彼らは医療業界におけるAIの規制強化を望んでいます。先月、米国食品医薬品局の専門家らは、米国医師会雑誌「JAMA」に寄稿した記事で同意した。さらに詳しくお話しするために、この論文の主著者である FDA 長官のロバート・カリフ博士にご参加いただきました。ここに来てくれてありがとう。

ロバート・カリフ: アーシャ、あなたと一緒にいられるのは素晴らしいことです。

ラスコー: 過去 30 年間に、FDA は人工知能を使用する 1,000 近くの医療機器を認可したと書いていますね。これらのデバイスが何をするのか教えていただけますか?

カリフ: ご存知のように、私はそれをカテゴリーの観点から考えています。したがって、アクションのほとんどが画像処理、CT スキャン、または X 線で行われているカテゴリが間違いなくあり、それを理解したいと考えています。放射線科医はそれを人間として見ますが、私たち全員が持つ処理能力には限界があります。コンピューターは疲れることがなく、コーヒーを飲む必要もなく、広範囲のデータを分析できます。

しかし、私たち全員に影響を与えるはるかに大きな領域は、意思決定サポートと呼ばれるものです。それは、インターネットを見ている消費者か、患者と接する医師や看護師のいずれかです。情報を入力しているんですね。その情報は処理され、推奨事項が提供されます。

ラスコー: FDA は現在、AI 対応デバイスをどのように評価していますか?素人向けにそのプロセスを概略的に説明してもらえますか?

カリフ: 実際には、これを管理する一連の法律があります。つまり、それが高リスクのデバイス、たとえば心臓除細動器に組み込まれた AI アルゴリズムの場合です。それは本当に良い例です。心臓の鼓動が突然止まった場合、ショックを与えて心臓を再開させたいと考えます。アルゴリズムが正しいことを確認したいと考えています。これは非常に慎重に規制されており、アルゴリズムが実際に実際に機能することを示す、通常は人を対象とした臨床研究を行う必要があります。 AI を管理上で使用しています。それらはまったく規制されていません。それが行政と金融です。

そしてその真ん中には、私が説明した意思決定支援の広大な領域があります。それは、「ワークアウトをしているので心拍数を知りたい」というものから、「心不全を患っている」というものまで多岐にわたります。死ぬかもしれない。ワークアウトするときは、パラメーターを注意深く制御していることを確認したいと思います。そしてそれはより規制されることになるので、範囲が存在します。

結論から言えば、この分野は非常に大きくなり、FDA ですべてを独自に規制するのに十分な人員を雇うことはおそらく不可能だということです。したがって、臨床コミュニティ (医療システム、専門職、医療のために診察を受けている人々) に、これらのアルゴリズムを常に評価できる規制のエコシステムと呼ばれるものの開発に深く関わってもらうことが非常に重要です。 。

ラスコー：つまり、意思決定支援などに役立つ製品は臨床試験も受けるべきだと考えている支持者もいるわけですね。あなたもそれに同意しますか？彼らは臨床試験を受ける必要があると思いますか?

カリフ: そうですね、私は心臓専門医であることに加えて、臨床試験の専門家でもありました。それが私が生計を立てていたことです。だから私は気に入らない臨床試験を見たことがありません。そしてもちろん、これらのアルゴリズムに関してより多くの臨床試験を実施できるほど、より良い結果が得られます。しかし、これには異なる要素があることも指摘しておきます。ご存知のように、医薬品や従来の装置を製造した場合、それはその存続期間中ずっと同じことになります。ここでの意思決定支援、AI アルゴリズムは日々変化しています。したがって、ここでの本当の鍵は、最初に安全であることを確認し、その後監視することです。したがって、消費者擁護団体はここで何かを理解していると思います。そして私たちは、これらのアルゴリズムの市場投入前の段階でどこに線を引くのか、市場に出るために何が必要なのか、その後何が起こるのかを正確に考え出す必要があるでしょう。

ラスコー: 人々が抱くであろう懸念の 1 つと、出てきた一例だと思います。たとえば、AI 製品が請求記録を使用して誰かの将来の医療ニーズを予測する場合、AI は低所得者の方が裕福な人よりもニーズが少ないと誤って推定する可能性があります。しかし実際には、サービスを受けるためのリソースがないために、受けられるサービスが減っているだけです。あなたの審査手順ではそのようなことは考慮されていますか、それとも FDA はそれについて何らかの洞察を持っているのでしょうか?

カリフ: そうですね、あなたは本当に重要な質問をしていますね。はい、私たちはこれについて多くの洞察を持っています。そして、あなたが挙げた例では、AI アルゴリズムがあるとしても、それは入力されるデータと同じくらい優れているという点で完全に正しいです。しかし、私たちはあなたの言ったこと、つまりアルゴリズムの定式化におけるバイアスであることを十分に認識しています。アルゴリズムは偏った出力をもたらし、不平等を現状よりもさらに悪化させる可能性があり、現時点ではかなり悪化しています。

ラスコー: コンピュータが何らかの疾患に罹患しているかどうかを判断しているのではないかと心配している人々に何と言いますか?

カリフ: 最も重要なことの 1 つは、ほとんどの場合、重要な決定については、協力している臨床医に AI が通知する必要があり、その人に代わって決定を下すのではないと思います。この決定は、あなたと対話し、コンピュータでは必ずしも簡単に認識できないあなたの側面を理解できる人間によって行われるべきです。

その一方で、この会話の冒頭で述べたように、あなたの医師や看護師が疲れていたり、朝仕事に行く前に夫婦喧嘩をしたり、他のことで圧倒されたりしている可能性があることも指摘しておきます。起こっている問題。コンピューターは疲れませんし、環境内の他のことに気を取られることもありません。私は 40 年間、コンピューターと人間のインターフェイスに取り組んできましたが、交通ルールが正しい限り、その組み合わせは常に優れています。

ラスコー: FDA長官のロバート・カリフ博士です。話してくれて本当にありがとう。

カリフ: 本当にうれしく思います。これについて検討する機会を与えてくれてありがとう。

著作権 © 2024 -。無断転載を禁じます。当社のウェブサイトにアクセスしてください 利用規約 そして 権限 のページ www.-.org 詳細については、を参照してください。
お問い合わせ・広告・著作権・不具合に関するご連絡は [email protected] までメールでお願いします。

– トランスクリプトは、- 請負業者によって急ぎの締め切りに作成されます。このテキストは最終的な形式ではない可能性があり、将来更新または改訂される可能性があります。精度と可用性は異なる場合があります。 – の番組の信頼できる記録は音声記録です。