EU AI法のより具体化を求める：E-HEALTH-COM

欧州連合の AI 法をどのようにして放射線 AI ソリューションに落とし込むことができるかは、まだ非常に不明瞭です。時間がなくなりつつあります。

移行段階はまだ進行中ですが、EU AI 法はすでに放射線医学に影を落としています。医療 AI の分野で間違いなく最も成功している分野では、不透明な規制枠組みが欧州のプロバイダーに再び損害を与えるのではないかとの懸念がある。これまでのところ、放射線AI分野における欧州企業は世界的に競争力があると考えられている。しかし、AI法が勢いを増すにつれて、このままでいくのでしょうか？

高リスクアプリケーションに対する EU AI 法: 2027 年 8 月から適用

AI法は2025年8月から正式に施行されていますが、現在は基本モデル（「基盤モデル」）と汎用のAIシステム（「汎用AI」）に「のみ」適用されています。高リスク AI システムの移行期間は 2027 年 8 月に終了します。そして、放射線 AI システムの大部分は高リスクのカテゴリーに分類される可能性が高いため、遅くともその頃には事態は盛り上がるでしょう。実際、製造業者は明らかに X 日目に備えなければならないため、フレームワークの条件はずっと前に明確になる必要があります。

npjデジタル・メディスンの最近の論評の中で、ユニバーシティ・カレッジ・ダブリン医学部の放射線科医ジャカ・ポトチニク氏とリュブリャナ大学コンピューター情報科学のダムジャン・フイス氏は、EU AI法の曖昧な要件がさまざまな状況における放射線AIシステムのメーカーにとって実際に何を意味するのかを明記する標準化されたガイドラインを求めている。そうしないと、企業ごとに極端に異なる行動をとる状況が発生するリスクがあり、それが規制の不確実性をもたらし、最終的にはイノベーションを遅らせることになります。

課題 1: リスク管理システム

この文脈における重要なトピックは、EU AI 法第 9 条に基づくリスク管理システム (RMS) です。これらは欧州医療機器指令 (MDR) の既存のリスク管理要件に依存していますが、AU 法の追加要件が正確にどのようなものになるのかは完全に不明です。放射線AIツールのメーカーは、ISO 14971認証を取得したRMSから、内部チェックリストでのみ機能する単純なアドホックRMSに至るまで、非常に異なるアプローチを選択するリスクがあります。

ポトチニク氏とフジス氏は、彼らの見解では、放射線システムの適切なリスク評価は、ある程度の確率で予測できる既知のリスクをできるだけ多く特定するために、必然的に学際的なチームの評価に基づく必要があると指摘しています。 AI 法は意図的に広範なものとなっていますが、具体的な施行となると、RMS のあいまいな要件は最終的に患者の安全を危険にさらしたり、データ保護要件の場合には患者の権利を無視したりする恐れがあります。

課題 2: データ ガバナンス

Potočnik 氏と Fujs 氏は、データ ガバナンスのテーマに関するより具体的なガイドラインも望んでいます。これには EU AI 法の第 10 条と第 13 条が特に関連しています。これはトレーニング、検証、テストのデータセットに関するものであり、EU の意志によれば、これらのデータセットは、とりわけ差別の回避をキーワードとして、選択された意図された目的の文脈において代表的かつ完全なものでなければなりません。ここでの大きな問題は、使用されるデータセットが「代表的」であることをどのように正確に保証する必要があるかということです。これは、使用のコンテキストに大きく依存するためです。多文化のベルリンで使用するために開発された放射線 AI には、均質な人口を抱える地方向けのアプリケーションとは異なるデータセットが必要です。

二人の著者によれば、これらの問題は人口の民族構成に限定されない。また、医療リスク要因は異なる集団に極めて不均一に分布しており、これが放射線 AI システムのパフォーマンスにも影響を与える可能性があります。「現在、放射線 AI のデータセットの代表性と完全性をさまざまな状況にわたって評価できる標準化された方法はありません。そのため、このような重要なデータセットの属性を解釈し、それらに対処する際にグレーゾーンが生じます」と 2 人の専門家は述べました。

課題 3: 市販後のモニタリング

ポトチニク氏とフジス氏が解説の中で扱っている 3 番目のトピックは、AI 法第 72 条で規制されている市販後モニタリング (略して PMM) です。これは、製品のライフサイクル全体を通じて、放射線（またはその他の高リスク）AI 製品の継続的な品質保証に関するものです。 AI 法に準拠した PMM が正確にどのようなものであるかは、RMS、または RMS に関連して特定された実際のリスクと潜在的なリスクに大きく依存します。 RMS の要件が明確でないため、放射線 AI 分野における優れた包括的な PMM システムがどのようなものであるべきかも明確ではありません。

PMM は今日、MDR の文脈においてすでに問題になっています。オランダとスイスでの実際の経験は、物事はそれほど単純ではないことを示しています。オランダでは、2023 年と 2024 年に合計 13 社の医療機器プロバイダーが当局による査察を受けました。ほぼ半数は PMM の概念をまったく持たず、存在する PMM の概念も一貫して不完全でした。スイス当局も医療機器メーカー27社の検査中に同様の経験をした。ここでは、70% が適切な PMM 文書の証拠を提供できませんでした。ポトチニク氏とフジス氏によると、全体的に見て、2027年夏に放射線AIシステムに関するEU AI法を制定することを目指して、大きな現実的な課題があるという。関連する要件を責任ある当局がより正確に規定する必要があるという意味で、これらの課題は現在、早急に対処する必要がある。

詳細情報

ジャカ・ポトチニク/ダムヤン・フイス。 未知の海域を航行する: EU AI 法に準拠した放射線科 AI における実際的な考慮事項を選択します。 npjデジタルメディスン2025; 2025 年 10 月 25 日。
https://www.nature.com/articles/s41746-025-02094-z?utm_source=nature_etoc&utm_medium=email&utm_campaign=CONR_41746_AWA1_GL_DTEC_054CI_TOC-251028&utm_content=20251028