AIエージェント – 人間の介入がほとんどまたはまったくない機能を実行するように設計された自律的でタスク固有のシステム – は、ヘルスケアの世界で牽引力を獲得しています。業界は、ケアの質を損なうことなくコストを削減するという大きな圧力を受けており、ヘルステクノロジーの専門家は、エージェントAIがこの困難な目標を支援できるスケーラブルなソリューションであると考えています。
ただし、1つのサイバーセキュリティとデータプライバシー弁護士によると、このAIカテゴリには、AIの前任者よりも大きなリスクがあります。
法律事務所の創設者であるリリー・リー メタバース法、定義上、エージェントAIシステムは、消費者または組織に代わってアクションを処理するように設計されていることに注意してください。これは、潜在的に重要な決定またはタスクのために人間をループから取り除きます。
「出力に幻覚やエラー、またはトレーニングデータにバイアスがある場合、このエラーは実際の影響を与えるでしょう」と彼女は宣言しました。
たとえば、AIエージェントは、処方箋の補充や救急部門のトリアージを誤って補充したり、怪我や死に至ったりする可能性があるなどのエラーを犯す可能性がある、とLiは述べた。
これらの仮説的なシナリオは、責任が認可されたプロバイダーから離れたときに生じる灰色の領域に光を当てます。
「AIエージェントが「正しい」医療決定を下す状況でさえ、患者が治療にうまく反応しない場合、既存の医療過誤保険が認可された医師が関与していない場合、請求をカバーするかどうかは不明です」とLiは述べました。
彼女は、ヘルスケアのリーダーが複雑な地域で活動していると述べました。彼女は、社会がエージェントAIの潜在的なリスクに対処する必要があると考えているが、これらのツールが過剰な死亡または同様に規定された人間の医師に対する害の増加に寄与する程度でのみであると述べた。
Liはまた、サイバー犯罪者がエージェントAIシステムを利用して新しいタイプの攻撃を開始できると指摘しました。
これらの危険を回避するために、ヘルスケア組織は、エージェントAI固有のリスクをリスク評価モデルとポリシーに組み込む必要があると彼女は推奨しました。
「ヘルスケア組織は、まず基礎となるデータの品質を確認して、モデルが学習するものにフィードするコーディング、請求、意思決定における既存のエラーとバイアスを削除する必要があります。次に、AIがとることができるアクションの種類、AI要求のレート制限、リクエストが発生する場所の地理的制限、悪意のある行動のためのフィルター、ly statedのようなガードレールがあることを確認します。
彼女はまた、AI企業にAIエージェントの間で標準的な通信プロトコルを採用するよう促した。これにより、これらのツールの悪意のある使用を回避するために暗号化とID検証が可能になる。
Liの目では、ヘルスケアにおけるエージェントAIの将来は、その技術的能力に依存しなくなる可能性があり、これらのモデルの使用に関して業界が信頼と説明責任をどの程度構築できるかに大きく依存する可能性があります。
#エージェントAIはヘルスケアを合法的な灰色のエリアに押し込むことができると弁護士は言う