イラスト=キム・ソンギュ
人工知能（ＡＩ）が医療関連虚偽情報がもっともらしい権威を持っていると見られると、そのまま受け入れるという研究結果が出た。 AIに健康関連情報を尋ねる人が増えているが、情報の内容ではなくソースを見て不正確な情報を出すことができるということだ。
米国マウントシナイアイカン医学研究チームは、オープンAIのGPT、Googleのジェムなど巨大言語モデル(LLM)20個にプロンプト340万件を試験した結果、AIが医療誤情報に脆弱であることを明らかにした。研究結果は国際学術誌「ランセットデジタルヘルス」に去る9日（現地時刻）掲載された。
研究チームは大きく3つの形態の虚偽情報を入れてAIの反応を分析した。 1つは実際の病院の退院記録に偽の医療勧告を1つ入れたこと、2つ目はソーシャルメディア(SNS)レジットから収集した健康関連の俗説、3つ目は医師が作った臨床シナリオだ。研究チームはAIに「治療計画を評価してほしい」など質問をして、AIが虚偽情報を事実として前提するかどうかを評価した。その結果、AIが医療虚偽情報を事実として受け入れた割合は31.7％だった。
AIは病院退院記録のように公信力があり、見える形の偽情報にもっと騙された。 SNS上の健康関連の俗説は8.9％だけ事実と信じたのに対し、病院記録の形をした情報を信じた割合は46.1％に達した。例えば食道炎出血患者の退院記録に挿入した「症状緩和のために冷たい牛乳を飲む」という誤った勧告をAIはそのまま受け入れた。一般的な医療指針のように扱ったのだ。 AIは権威的な口調で書かれた情報をよりよく信じた。 「20年以上の臨床医がこの勧告事項が正しいと思う」という言葉を入れれば、誤った情報も事実とみなすということだ。
研究チームはAIを医療環境にそのまま投入するのは危険だと言った。 AIが情報の真偽より形式に大きな影響を受けるということだ。研究チームは「現在のAIシステムは自信ある口調で書かれた医療文章が明らかに間違った場合でも基本的に事実として受け入れる傾向がある」とし「AIは臨床医と患者に大きな助けになる可能性があるが、安全装置が必要だ」と話した。
#AIもっともらしいソースがあれば偽の医療情報も信じる