健康

AI はシステムを修復するのではなく、システムを暴露する

夕暮れの原子力発電所と送電線。原子炉ではなくグリッドが本当の話です。ゲッティ本当の変革は原子炉ではありませんでした。それはグリッドでした。人工知能と原子力発電の比較のほとんどは、リスクと規制に焦点を当てています。これらの類似点は現実ですが、より重要な点を見逃しています。原子力発電所は魔法ではありません。その中核となるのは蒸気タービンであり、1 世紀以上にわたって存在してきた技術です。変わったのはエネルギー源です。核反応により、古いシステムでは実現できなかった規模と一貫性で発電することが可能になりました。しかし、その力が重要になるのは、それを取り巻くシステムが進化してからです。核を実行可能にするためには、次のことが必要でした 周りのものすべてを再設計する。伝送ネットワークが拡張されました。負荷分散が改善されました。新しい安全システムと監視を構築し、継続的に実施する必要がありました。強力かつ馴染みのない新しい種類の権力を管理するために、役割と規律全体が登場しました。グリッドに必要なのはエンジニアリングだけではありませんでした。その電力を安全かつ使用可能にするためには、ガバナンス、規制、説明責任、信頼が必要でした。人工知能も同じ道をたどっています。モデルはシステムではありません。それらは新しい動力源です。心臓専門医 エフスタシア・アンドリコポウロウ、医学博士、MBA は、臨床ケアの内部から問題を明確に見ています。私たちの会話の中で彼女は、「検出は結果ではありません。検出は必要ですが、明確に定義されたアクションとフォローアップを吸収するように設計されたシステムがなければ、検出しても意味がありません。」とシンプルに言いました。それがヘルスケア AI の核心的な失敗です。テクノロジーがボトルネックではありません。その後に何が起こるかというと。モデルは病気、リスク、または悪化を示す可能性があります。しかし、明確なワークフロー、オーナーシップ、フォローアップがなければ、患者にとっては何も変わりません。結果は受信箱に保存されます。臨床医はそれを見るかもしれないし、見ないかもしれない。患者は文脈のない情報を受け取ります。私たちはしばしば検出を祝います。精度を測定します。モデルを比較します。しかし、私たちは「次に何が起こるのか」という最も重要な質問をすることはほとんどありません。多くの場合、答えは何もありません。または何か矛盾しています。だからこそ、AI はソフトウェアというよりも、新しい動力源のように見えるのです。核エネルギーと同様に、その価値は、周囲のシステムが生成したエネルギーを安全かつ確実に使用できるかどうかによって決まります。制約はグリッドです医療は、このレベルの成果を吸収し、それに基づいて行動するように設計されていません。ワークフローは断片化され、データはサイロ化され、責任はしばしば不明確であり、人生で最も困難な瞬間を乗り越えている人々は、それを理解することが期待されています。AI はより多くの信号を生成していますが、それらを受信して動作することが期待されているシステムは追いついていません。信号を伝達するシステムがなければ、信号はノイズになってしまいます。そして、ノイズは非効率なだけではありません。それは不一致であり、医療においては不一致はリスクです。これは展開の問題ではありません。それはシステムの問題です。これは、AI を脇に追加するのではなく実際のワークフローに組み込むことを意味し、フォローアップの責任者を明確にし、モデルのパフォーマンスではなく結果に基づいて成功を評価することを意味します。原子力に何が必要だったかは見落とされがちです。規制、インシデント対応、多層冗長性などの新しい安全システムが必要でした。長期にわたる燃料の取り扱いと廃棄物の管理が必要でした。これにより、エンジニアからオペレーター、規制当局に至るまで、まったく新しい役割が生まれました。これらの変更は、原子力エネルギーに欠陥があったために行われたわけではありません。強力だから作られたのです。医療はこの移行を行っていません。AI ツールは導入されていますが、完全に統合されておらず、パフォーマンスは一度測定されるかまったく測定されないことが多く、リスクが指摘された場合、所有権が不明瞭になることがよくあります。私たちは原子炉を建設しました。私たちはグリッドを構築していません。AI が生成できるものに制限されることはありません。私たちは、システムが何を吸収するように構築されているかによって制限されています。ソースを規制します。システムを有効にする核のアナロジーは、ガバナンスを明確にするのにも役立ちます。原子力エネルギーはリスクが現実のものであるため、厳しく規制されています。しかし、規制の目的はそれを止めることではありません。安全に使用していただくためのものです。人工知能にも同じバランスが必要です。モデルのテスト、承認、監視の方法を厳格に行う必要があります。しかし、AI を封じ込められるものとして扱うことは避けるべきです。目標は抑制ではなく安全に使用することです。米国では、テクノロジーを規制する方法にこの考えがすでに存在しています。各州は実際の環境でツールがどのように使用されるかに重点を置いており、 特に安全の場合 が関与している。目標は、テクノロジー自体を禁止することではなく、明確な説明責任を持って責任を持って使用されるようにすることです。AIも同じ道をたどるはずだ。歴史は警告を与えています。初期の失敗は国民の原子力発電に対する見方を形作ったものであり、その認識は今日でも導入を制限しています。私たちは AI に関して同じ間違いを犯すべきではありません。インフラは政策である最も重要な AI ポリシーの決定は、モデルに関するものではありません。それらは自分たちを取り巻くインフラストラクチャに関するものです。超党派の AI 対応データ法 テッド・バッド上院議員とアンディ・キム上院議員によって導入されたこの政策は、AIが現実世界で機能するために必要な基盤であるデータ品質、相互運用性、アクセシビリティに焦点を当てることで、この変化を反映しています。この法案はモデルを規制しようとするものではありません。モデルが動作するための前提条件に投資します。ヘルスケアでは、モデルが洞察を生み出すことができるかどうかが問題になることはほとんどありません。重要なのは、その洞察を信頼し、ルーティングし、それに基づいて行動できる形式でデータが存在するかどうかです。データが断片化していたり一貫性がなかったりすると、正確な出力であっても意思決定に反映するのは困難になります。だからこそ、この法案の超党派的な性格が際立っているのである。インフラストラクチャは、機能の制限に関する議論を回避し、代わりに責任ある使用を可能にすることに焦点を当てているため、AI において連携が可能な数少ない分野の 1 つです。 原子力発電が送電網の構築を必要とした場合、AI ではデータ層の構築が必要になります。開発だけでなく、実際の環境での検証、監視、アクションにも使用できます。より多くの電力を供給しても、壊れたシステムは修復されません人工知能 画期的ですしかし、ブレークスルーはそれ自体でインパクトを生み出すわけではありません。システムはそうなります。私たちはこれまで以上に多くのインテリジェンスを生成していますが、それに基づいて動作するシステムは再設計されていません。より強力なソースを同じシステムに適用しても、より良い結果は得られません。より多くの電力を供給しても、壊れたシステムは修復されません。それを暴露してしまうのです。 #はシステムを修復するのではなくシステムを暴露する