健康

非営利団体が AI の透明性に関してメイヨーと提携

学術病院やテクノロジー企業は、医療用人工知能ツールをテストするために全国の研究所のネットワークを確立しようとしている非営利団体の一員です。 この事業は、 健康AI連合AIとデータサイエンスの学術的な医療システム、組織、専門家からなるコミュニティであり、ミネソタ州ロチェスターに本拠を置くメイヨークリニック、ノースカロライナ州ダーラムに本拠を置くデューク大学やその他の組織などの機関に研究室を設立し、バランスの取れた適切な評価を確保します。 AI モデルが広く採用される前に、 「私たちがやろうとしているのは、コミュニティの合意に基づいた一連の標準とテストフレームワークの開発をサポートすることです」とCHAIの共同創設者であるブライアン・アンダーソン医学博士は語った。 ベッカーズ。 「そのテスト フレームワークは、CHAI 認定の保証ラボによって使用され、AI モデルの公平性、パフォーマンス、安全性、透明性を評価するために適切なフレームワークが採用されていることを確認します。」 たとえば、モデルはこれらの保証ラボで精査され、包括的な評価が提供されます。 初期段階では、販売または導入前の開発および販売段階でモデルをテストします。 アンダーソン博士によると、この早期評価により、モデルが確立された基準および要件に適合していることが保証されます。 モデルが医療システム内での展開フェーズに進むにつれて、追加の考慮事項が発生します。 安全性、有効性、正確性、公平性などの従来のパフォーマンス指標を超えて、ユーザビリティ評価を実施することが極めて重要になるだろうとアンダーソン博士は述べた。 これには、ボタン構成、アラートのタイミング、患者と医師のやり取り中の状況に応じた考慮事項などの要素を含め、モデルが医療システムの EHR にどのように統合されるかを評価することが含まれます。 また、モデルは時間の経過とともに変化したりドリフトしたりして、全体的なパフォーマンスと精度に影響を与えるため、保証ラボはダッシュボードと評価を通じてこれらのモデルを定期的に監視する上で重要な役割を果たします。 この外部検証により、AI ツールが医療システムに統合されたときに最高のパフォーマンス、公平性、透明性の基準を満たしていることが保証されます。 アンダーソン博士が「レポートカード」と呼ぶこれらの保証ラボテストの結果は、モデルのパフォーマンスに対する完全な透明性を提供するために国家登録簿に公開され、患者、医療機関、社会がこれらのモデルがどのような状態であるかについてアクセスできるようになります。パフォーマンスと展開場所。 「あなたが特定の医療システムの患者で、その医療システムでそのモデルが展開されているのを目にした場合、そのモデルをどのように使用しているかについて医療提供者と情報に基づいた会話をすることができる権限が与えられます」と同氏は述べた。 。 「それを使用すべきかすべきでないかの適切性を理解するためです。ですから、私たちは患者がそうした会話をできるようにしたいのです。」 アンダーソン博士によると、これらの研究室は現在すでに設立されており、メイヨー氏がその先頭に立っているという。 アンダーソン博士は、年末までに十数ではないにしても少なくとも六つの研究室が立ち上がると予想していると語った。 メイヨー・クリニックとマイクロソフトなどのテクノロジー企業が主要参加者として参加する CHAI の共同作業は、医療機関が責任を持って AI を開発し、医療現場に導入できるようにするという大きなニーズを表しています。 メイヨー・クリニック・プラットフォームの規制戦略およびコンプライアンスマネージャーのブレントン・ヒル氏は、「FDAのような組織は、これらの研究所のニーズを認識している」と語った。 ベッカーズ。 「私たちはこれが責任ある AI に役立つものであると考えています。」…