副操縦士使用時の危害率 22%

Microsoft の AI を活用した Bing に基づく新しい研究 副操縦士 このツールを医療情報に使用する場合には注意が必要であることがわかります。

調査結果は、 サイメックスに掲載されました、チャットボットの応答の多くを完全に理解するには高度な教育が必要であり、その推奨事項の 40% 近くが科学的なコンセンサスと矛盾していることを示しています。驚くべきことに、回答の 4 件中 1 件近くが潜在的に有害であると考えられ、これに従うと重篤な危害や死亡を引き起こす危険性があると考えられています。

米国で最も処方されている薬トップ50に関する質問

研究者らは、2020 年の米国の外来患者市場で最も処方された薬 50 品について、患者からよく寄せられる 10 の質問を Microsoft Copilot に質問しました。これらの質問には、薬の適応症、作用機序、使用方法、潜在的な副作用、禁忌などのトピックが含まれていました。

彼らは使った Flesch の読みやすさスコア 特定のテキストを理解するために必要な教育レベルを推定するため。 0 ～ 30 のスコアは、学位レベルの教育が必要な、読むのが非常に難しいテキストであることを示します。逆に、91 ～ 100 のスコアは、テキストが非常に読みやすく、11 歳児に適切であることを意味します。

この調査で報告された全体の平均スコアは 37 で、チャットボットからの回答のほとんどが読みにくいことを意味します。チャットボットの回答の可読性が最も高くても、高等学校または中等教育レベルの教育レベルが必要でした。

さらに、専門家は次のように判断しました。

• チャットボットの回答の 54% は科学的なコンセンサスと一致していましたが、回答の 39% は科学的なコンセンサスに反していました。
• 回答の 42% は中程度または軽度の危害につながると考えられました。
• 回答の 36% は害につながらないものと考えられました。
• 22％は重篤な危害または死亡につながると考えられました。

見る： Microsoft 365 Copilot Wave 2 は、新しいコラボレーション キャンバスである Copilot Pages を導入します

医療業界におけるAI活用

人工知能はしばらく前から医療業界に組み込まれており、患者の転帰を改善し、医療業務を最適化するためのさまざまなアプリケーションを提供しています。

AI は医療画像分析において重要な役割を果たしており、病気の早期発見を支援したり、複雑な画像の解釈を加速したりしています。また、膨大なデータセットを処理することで新薬候補を特定するのにも役立ちます。さらに、AI は次のような方法で医療従事者をサポートします。 病院の業務負荷を軽減する。

自宅では、AI を活用した仮想アシスタントが、薬のリマインダー、予約のスケジュール設定、症状の追跡などの日常業務で患者を支援できます。

健康情報、特に医薬品に関する情報を取得するための検索エンジンの使用は広く普及しています。ただし、この分野で AI を活用したチャットボットの統合が進んでいることは、ほとんど解明されていないままです。

別個の 勉強 BMJ Quality & Safety ジャーナルに掲載されたベルギーとドイツの研究者らによる論文では、健康関連の問い合わせに対する AI を活用したチャットボットの使用について調査されました。研究者らは、Microsoft の Bing AI コパイロットを使用して研究を実施し、「AI を活用したチャットボットは全体的に完全かつ正確な患者の薬剤情報を提供できる」と指摘しました。しかし、専門家はかなりの数の回答が不正確であるか、有害である可能性があるとみなしました。」

医学的アドバイスについては医療専門家に相談してください

Scimex 研究の研究者らは、その評価には実際の患者体験が含まれておらず、他の言語や異なる国のプロンプトはチャットボットの回答の品質に影響を与える可能性があると指摘しました。

また、彼らの研究は、AIを活用したチャットボットを備えた検索エンジンが薬物治療に関する患者のよくある質問にどのように正確な回答を提供できるかを実証しているとも述べた。しかし、これらの答えはしばしば複雑で、「潜在的に有害な情報が繰り返し提供されると、患者と医薬品の安全性が危険にさらされる可能性があります。」彼らは、チャットボットの回答が常にエラーのない情報を生成するとは限らないため、患者が医療専門家に相談することの重要性を強調しました。

さらに、健康関連情報に対するチャットボットのより適切な使用法は、医学用語の説明を求めたり、より良い情報を得るために使用することかもしれません。 理解 医療専門家によって処方された薬の状況と適切な使用について説明します。

開示： 私はトレンドマイクロで働いていますが、この記事で表明されている見解は私個人のものです。