Getty / Futurismによる画像
あなたが私たちが実際のサイバーパンクの未来に向かってスパイラルしていると確信していなかったなら、AIに規制薬物を処方させようとしている新しい法案はまさにそうかもしれません。
提案された法律 今月アリゾナ州のデイビッド・シュヴァイカートによって下院で紹介され、レビューのためにエネルギーと商業の下院委員会に紹介されました。その目的： 「人工知能と機械学習技術が薬物の処方資格のある開業医としての資格があることを明確にするために、連邦食品、薬物、および化粧品法を改正する」。
理論的には、それはいいですね。アメリカのヘルスケアシステムとの関わりは、しばしばスローモーションレンガで自分自身を打つように感じるので、症状に共感的に助言し、健康的なライフスタイルを促進し、重要な薬物療法を省くことができる完璧なAIを搭載した医療従事者の見通しは、有望な代替品のように聞こえます。
しかし、実際には、今日のAIは、そのいずれかを提供するために必要な場所の近くではなく、潜在的に危険な薬物を処方することはありません。
Schweikertの法案はすべてを完全に宣言していません。これらのロボドクルターは、「国家によって承認され、承認、承認、クリア、または食品医薬品局によって認可された場合にのみ展開できると警告していますが、ダウンレンジ、AI医学明らかに目標です。私たちの議員は明らかに時間を感じています – そしてお金 – ブレーキを取り外して、AIをヘルスケアシステムに入れ始めるのは正しいことです。
議員の楽観主義はさておき、AIはすでにヘルスケアに繰り返し手探りしています – Openaiを搭載した医療記録ツールが患者の病歴を製造している時期や、Microsoft診断ツールが平均的な病院が多くの幽霊、または多くの幽霊に悩まされていると自信を持って主張したときのように摂食障害のヘルプラインのAIチャットボットがレールから外れて、ユーザーが乱れた摂食に従事するよう奨励し始めました。
研究者は同意します。 「既存の評価は、LLMSであるため、臨床的有用性とリスクを理解するには不十分です [large language models] 臨床的意思決定を予想外に変更する可能性があります 批判的研究 医学雑誌から ランセット、 「医師は、LLM応答を使用して自分の評価のコミュニケーションを促進する代わりに、LLMSの評価を使用する可能性がある」と付け加えました。
また、社会的懸念もあります。今日のAIは悪用するのが容易であることで有名です。つまり、患者は、AIの医師が説明責任や監視なしに中毒性のある薬物を処方するようにトリックすることを必然的に試み、成功する可能性が高いことを意味します。
それが価値があることのために、シュヴァイカートはかつて同意していました。昨年の7月からの宣伝文入で、 議員が引用されています それを言っている 「次のステップは、このタイプのテクノロジーが医療記録の構築、追跡、心の問題に使用する医薬品の管理を支援することから、心臓専門医のデータセットを作成してデータをリモートで調べることまで、すべてにどのように適合するかを理解することです。」 「
彼はその慎重な楽観主義から引っ越したようで、代わりに 移動速いブレイク 吐き出すグリッドセット テストされていない自己運転車 私たちの道路とai hitlerbotsに 私たちのフィード – 全て 私たちの同意なしに、 もちろん。
AIでの収益性への競争が激化するにつれて、実際のユースケースの需要が高まっています。そして、それがそうであるように、ハイテク企業は直面しています 計り知れない圧力 その最新のイテレーションを汲み出すために、次の大きなブーム。
しかし、医学の世界での角を切り取ることの結果は急です。 その製品を市場に投げ込みます そして、私たちに社会的責任をシャントします – 私たちの学校を、10代の若者を自殺と自傷に向けた歴史的なアンのフランクボットとAI仲間で満たします。
Schweikertが提案しているような規制緩和は、同意なしに患者記録でGenaiモデルをトレーニングするなど、これらの犯罪でどのように大きなTechが逃げるかです。主題の専門家がプロセスのあらゆる段階で関与したり、企業の利益の前に共通の利益を徹底的に考えたりすることを保証することは何もしません。
そして、私たちの議員がこれらのハイテク企業に王国への鍵を渡しているので、最初に害を受けるのはしばしば最も脆弱です – 最大かつ最も派手なAIモデルは爆弾の啓示を思い出します スウェットショップの労働者の背中に建てられました。
AI外来患者のケアに関しては、 Cory Doctorow 層状のヘルスケアの世界を想像するために – まあ、私たちよりも すでに持っています – 私たちの中で最も裕福な人が本物の人間の医師にアクセスでき、私たちの残りは予測不可能なAI同等のものを残しています。
そして、ドナルド・トランプのAIの完全な抱擁の時代には、別の大統領命令を想像するのは難しくありません 連邦パートナーシップ AI薬剤師をその厄介な監視なしに現実にする。
テクノロジーとドラッグの詳細： 違法な麻薬広告からお金を稼いだことでマーク・ザッカーバーグと激怒する議会
#新しい法律ではAIが医師を交換することを許可し薬物を処方します