CHAI、オープンソースのヘルスケアAI栄養ラベルモデルカードを発売

Coalition for Health AI は、 GitHub 上の人工知能応用モデル カードのオープンソース バージョン。ヘルスケア業界主導の連合は木曜日、ヘルスケア AI 開発者が AI システムのトレーニング方法に関する重要な情報を提供できるようにカードを設計したと発表した。

CHAI CEO ブライアン・アンダーソン氏によると、オープンソース モデル カード草案のセクション (ヘルスケア AI の「栄養ラベル」) は、米国保健福祉省の医療データ、テクノロジー、相互運用性を超えています: 認定プログラムの更新、アルゴリズムの透明性、と情報共有 医療 IT システムを認証するための最終規則。

栄養ラベルは、全米医学アカデミーの AI 行動規範など、他の自主基準と一致する機会も提供します。

「これは、信頼を築くために単にパワーポイントのスライドや逸話に任せるのではなく、顧客とベンダー間の会話を開始するための重要なステップです」とアンダーソン氏は語った。 ヘルスケアITニュース 水曜日に。

コンセンサスによって構築

新興企業と医療システムの両方からの需要の高まりを受けて、CHAI は、その使命は、医療分野で AI を構築および使用するすべての人が情報に基づいた意思決定を行えるようにすることであり、栄養ラベルのオープンな利用により、選択した AI ツールの透明性と信頼性が向上すると述べています。

医師、看護師、患者に「医療分野でますます重大なユースケースで使用されるAIモデルを信頼してもらいたいのであれば、これらのモデルがどのように作られ、どのように機能するかについて、より透明性を高める必要がある」と同氏は述べた。 「モデルカードはそのような透明度を実現します。」

HIT企業や医療システムは好きなようにCHAIのモデルカードを使用でき、これは調達プロセスを合理化し、大規模な実装を改善するのに役立つ可能性があると連合は述べている。

「私たちはこのモデルカードが広く入手可能になり、ベンダーコミュニティと顧客コミュニティによって広く使用されることを望んでいます」とアンダーソン氏は述べた。

CHAIの栄養表示は マルチステークホルダーの協調的な取り組みから生み出されたもの 「責任ある AI がどのようなものであるかについてのコンセンサスのある一連の定義」を構築するためだとアンダーソン氏は説明した。これには、評価のための合意された指標、パフォーマンスについての考え方、公平性とバイアスの評価が含まれます。

連合が目指してきたのは、 規制当局と開発者を団結させる AI標準を推進します。

「ベンダー、AI モデルの開発者、およびその顧客を集めて、開発者に必要な同意できる最低限の透明性レベルについてのコンセンサスを構築しようとするのは、本当に難しいことです」と彼はこの取り組みについて語った。過去 8 か月間。

CHAIは10月、利害関係者のフィードバックを取り入れた後、認証ルーブリックとモデルカードのデザインは2025年4月末までに完成すると述べたが、連合はGitHubを介したテストからのフィードバックを1月22日までに受け取るよう求めている。

規格と調整

この組織には 3,000 近くの会員組織がいますが、栄養ラベルを無料で利用できるようにすることで、最終的には医療システムが数千とは言わないまでも数百の AI ツールを導入できるようになります。モデル カードのデジタル オープンソース コード化バージョンは、繰り返し使用できる標準です。

アンダーソン氏は、複数の AI システムとツールの「管理と監視の課題に対処できるスケーラブルなソリューションが必要です」と述べました。

アンダーソンが多くの時間を費やして考えるもう 1 つのことは、位置合わせです。

たとえば、業界の多くは、患者が開発プロセスの一部であることに焦点を当てています。

「患者コミュニティグループはこれが非常に重要だと考えています。患者をその中心に置きたいのであれば、開発者は最初から患者の立場に応じた方法でそれを行うべきだと私は信じています。」

CHAI AI モデル カードには、HTI One ルールの一部ではない米国医学アカデミーの AI 行動規範に関するセクションも含まれています。

「私たちは、ベンダーが自社のモデルの開発が NAM が説明する AI 行動規範と一致していると信じる場合、それを明確にする機会を確保し、それを共有する機会を確保する必要があると考えています。それに基づいてモデルが開発されたと彼らが信じるかどうかについての視点。」

Andrea Fox は、Healthcare IT News の上級編集者です。
電子メール: [email protected]
Healthcare IT News は HIMSS Media の出版物です。