WHO、大規模なマルチモーダル モデル向けの AI 倫理とガバナンス ガイダンスを発表

世界保健機関（WHO）は、 大規模なマルチモーダルモデルの倫理とガバナンス (LMM) – 急速に成長している生成型人工知能 (AI) テクノロジーの一種で、医療全般に応用されています。

このガイダンスには、国民の健康を促進および保護するために LMM の適切な使用を確保するために、政府、テクノロジー企業、医療提供者が検討すべき 40 以上の推奨事項が概説されています。

LMM は、テキスト、ビデオ、画像などの 1 つ以上のタイプのデータ入力を受け入れ、入力されたデータのタイプに限定されない多様な出力を生成できます。 LMM は、人間のコミュニケーションを模倣し、明示的にプログラムされていないタスクを実行できるという点で独特です。 LMM は歴史上のどの消費者アプリケーションよりも早く導入され、2023 年には ChatGPT、Bard、Bert などのいくつかのプラットフォームが一般の人々の意識に浸透します。

「生成 AI 技術には医療を改善する可能性がありますが、それはこれらの技術を開発、規制、使用する者が関連するリスクを特定し、十分に考慮した場合に限ります。」と WHO の主任科学者であるジェレミー・ファーラー博士は述べています。 「より良い健康成果を達成し、持続する健康上の不公平を克服するために、LMM の設計、開発、使用を管理するための透明性のある情報とポリシーが必要です。」

潜在的な利点とリスク

WHO の新しいガイダンスでは、健康に対する LMM の 5 つの幅広い応用例が概説されています。

• 患者の書面による質問への回答など、診断および臨床ケア。
• 症状や治療の調査など、患者の指導のもとで使用する。
• 電子医療記録内での患者の訪問の文書化と要約などの事務および管理タスク。
• 研修生に患者との模擬体験を提供することを含む、医療および看護教育。
• 新しい化合物の同定などの科学研究と医薬品開発。

LMM は特定の健康関連の目的で使用され始めていますが、虚偽、不正確、偏った、または不完全な記述を生成するリスクも文書化されており、健康に関する意思決定を行う際にそのような情報を使用する人々に損害を与える可能性があります。 さらに、LMM は、人種、民族、祖先、性別、性同一性、または年齢に関係なく、低品質または偏ったデータでトレーニングされる可能性があります。

このガイダンスでは、最もパフォーマンスの高い LMM へのアクセスや手頃な価格など、医療システムに対する広範なリスクについても詳しく説明しています。 LMMS は医療専門家や患者による「自動化バイアス」を助長する可能性もあり、それによって、本来であれば特定されるはずのエラーが見落とされたり、難しい選択が不適切に LMM に委任されたりする可能性があります。 LMM も、他の形式の AI と同様、サイバーセキュリティ リスクに対して脆弱であり、患者情報やこれらのアルゴリズムの信頼性、より広範な医療の提供を危険にさらす可能性があります。

安全で効果的な LMM を構築するために、WHO は、監視や規制を含む、そのようなテクノロジーの開発と導入のあらゆる段階で、政府、テクノロジー企業、医療提供者、患者、市民社会など、さまざまな利害関係者の関与の必要性を強調しています。

「すべての国の政府は、LMM などの AI テクノロジーの開発と使用を効果的に規制する取り組みを協力して主導する必要があります」と、WHO 科学部門デジタルヘルスおよびイノベーション担当ディレクターのアラン・ラブリック博士は述べています。

主な推奨事項

WHOの新しいガイダンスには、LMMの開発と展開、公衆衛生と医療目的での統合と使用の基準を設定する主な責任を負う政府への推奨事項が含まれている。 たとえば、政府は次のことを行う必要があります。

• 公共、民間および非営利部門の開発者がアクセスできる、コンピューティング能力や公開データセットを含む非営利または公共のインフラストラクチャに投資または提供する。これは、ユーザーに倫理原則と価値観を遵守することと引き換えに要求するものである。アクセス。
• 法律、政策、規制を活用して、AI テクノロジーに関連するリスクや利益に関係なく、ヘルスケアや医療で使用される LMM やアプリケーションが、個人の尊厳、自律性、権利などに影響を与える倫理的義務や人権基準を確実に満たすようにします。プライバシー。
• リソースが許す限り、ヘルスケアまたは医療での使用を目的とした LMM およびアプリケーションを評価および承認するために、既存または新規の規制当局を割り当てます。
• LMM が大規模に展開される場合、データ保護や人権を含む独立した第三者によるリリース後の監査と影響評価を必須に導入します。 監査と影響評価は公開されるべきであり、年齢、人種、障害など、ユーザーの種類ごとに分類された結果と影響を含める必要があります。

このガイダンスには、LMM の開発者向けの次の重要な推奨事項も含まれており、次のことを保証する必要があります。

• LMM は科学者やエンジニアだけによって設計されているわけではありません。 潜在的なユーザーと、医療提供者、科学研究者、医療専門家、患者を含むすべての直接的および間接的な利害関係者は、AI 開発の初期段階から構造化された包括的で透明性のある設計に関与し、倫理的問題を提起し、懸念を表明し、意見を表明する機会を与えられるべきです。検討中の AI アプリケーションに入力を提供します。
• LMM は、医療システムの能力を向上させ、患者の利益を促進するために、必要な精度と信頼性で明確に定義されたタスクを実行するように設計されています。 開発者は、潜在的な副次的結果を予測して理解できる必要もあります。

編集者注記

大規模なマルチモーダル モデルに関する保健ガイダンスのための AI の倫理とガバナンスに関する新しい文書は、2021 年 6 月に公開された WHO のガイダンスに基づいています。 ここ