専門家がChatGPT Healthで医療情報を共有するのは危険だと警告

健康診断、服用している薬、医療検査の結果など、最も個人的な情報について考えてください。そして今度は、その機密情報の一部をオンラインにアップロードすることを考えてみましょう。

それはまさに、親会社 OpenAI の新しいサービスである ChatGPT Health があなたに望んでいることです。

ChatGPTによると、医療に関する質問は、AI プラットフォームで最も検索されるトピックの 1 つであるため、同社はヘルス＆ウェルネス ツールの立ち上げを決定しました。

ChatGPT Health は、ユーザーが医療記録や検査結果などの健康データをアップロードし、スマート デバイスやフィットネス アプリをプラットフォームに接続して、すべての健康データを 1 か所で確認できるようにすることを推奨します。ユーザーはまた、AI サービスからパーソナライズされた健康上の推奨事項やアドバイス (診断や治療ではないと OpenAI のプレスリリースでは強調されています) も取得できると言われています。

当然のことながら、サイバーセキュリティの専門家は、健康記録や個人の健康データが大量にアップロードされることに懸念を抱いています。知っておくべきことは次のとおりです。

「私が最も衝撃を受けたこと、そして最も懸念していることは、OpenAI と チャットGPT彼らは本物の医療提供者ではない」と述べた。 ロバート・ドヴィディオ、フィラデルフィアのドレクセル大学の犯罪学と司法研究の准教授。

「それで、それはあなたと私にとって何を意味しますか？つまり、彼らはHIPAAの対象ではないということです」とドヴィディオ氏は言いました。 連邦法に言及する これはあなたの健康データを保護し、医療提供者に厳格なプライバシーとセキュリティの規則に従うことを要求します。 「私たちが診療所に行くとき、救急治療に行くとき、病院に行くときに得られるのと同じ保護が、ChatGPTに対処しているときには存在しません」と彼は付け加えた。

OpenAIの広報担当者はハフポストに対し、同社は特に健康情報に関するプライバシーを重視しており、ChatGPT Healthのユーザーはいつでも自分のデータを削除できると語った。

ChatGPT は、医師と同様に、あなたがうつ病に苦しんでいること、または心臓病の診断を受けていることを知っている可能性があります。しかし、医師とは異なり、オンラインツールにはその情報を保護する連邦政府の義務はない、と同氏は述べた。 ネイサン・エヴァンス、デンバー大学のサイバーセキュリティプログラムのファカルティディレクターおよびコンピューターサイエンスの共同議長。

「つまり、それが私の最大の疑問符のようなものです」とエバンス氏は語った。

「そして、たとえ最も厳格なセキュリティとプライバシーの基準に従うと言っていたとしても、それを強制するものがなければ、 [like the federal government]であれば、将来的には曲調を変える可能性もあるでしょう。」

良いことが 1 つありますか? D’Ovidioによると、ChatGPT Healthはデータ分離とデータセグメンテーションを使用しているため、健康関連のデータや医療アップロードがChatGPTの非健康面で検索したり行ったりしている内容と混ざらないようにしているという。

しかし、データのセグメント化と分離が約束されているにもかかわらず、「データ侵害に関しては依然としてリスクにさらされています」とドヴィディオ氏は付け加えた。

OpenAIの広報担当者は、ChatGPT Healthにアップロードされるデータは機密性が高いため、このツールは「専用の暗号化と分離」を使用して健康に関する会話や情報を保護し、区分化していると述べた。

しかし、「特にそのようなデータの機密性に関しては、そのような情報がどれほど有用であるかを知っているので、この種のサービスを提供する企業がより大きな標的を背負わせているのかどうか疑問に思う必要がある」とドヴィディオ氏は述べた。 「これを研究している犯罪学者の私にとって、これは『そう、彼らはこれを行うことで、はるかに大きな標的を背中に描いているのだ』と言うのです。」

ChatGPT Health は、という会社と提携しています。 まあウェブサイトによると、「AIを活用したデジタルヘルスプラットフォーム」だという。

ユーザーの情報は ChatGPT と OpenAI にあるため、「それは確かに方程式にさらなる複雑さを加えます」と D’Ovido 氏は言いました。しかし、人々は「b.well が方程式の一部になっているため、b.well で何が起こっているのかについても心配する必要があります。」

これもデータ侵害やプライバシー問題に関する潜在的な標的になると同氏は述べた。

ヘルスケアに参入する AI 企業は ChatGPT Health だけではありません。 Anthropic がヘルスケア向けクロードを発表 ChatGPT Health の発表からわずか数日後。ドヴィディオ氏によれば、これはワシントンで選出された議員らに対する「行動喚起」となるはずだという。

「おそらく、境界線がどこにあるのか、誰が医療提供者として定義されるのかという意味で、HIPAA を再考する時期が来ているのかもしれない」と彼は付け加えた。 「各州が独自の規制を採用するような状況には陥りたくありません。混乱が生じるだけだからです。」

昨年初め、オンライン遺伝子検査会社が 23andMeが破産申請、何百万ものユーザーから得た健康と先祖のデータに疑問を投げかけています。

これは OpenAI にとって現在の懸念事項ではありませんが、実際に将来を予測する方法はなく、潜在的な会社の変更が機密の健康データにどのような影響を与える可能性があるかを専門家は述べています。

「OpenAI が資金不足になったり廃業したりするとは予想していませんが、彼らは収益性の高い会社ではありません。 彼らは金を大出血させている より大きなものを築こうとするのです」とエバンス氏は語った。

Evans 氏によると、ChatGPT が収集するデータのほとんどは、それを使用してトレーニングし、より大きくより優れたモデルを構築することが目標です。 ChatGPT（とClaude）はどちらも、ユーザーの健康データはトレーニングには使用されないと述べている。

エバンス氏は「これまで大規模な侵害は発生していないが、将来的に発生する可能性がないというわけではない」と述べ、データの盗難や内部の混乱もデータセキュリティに対する懸念であると付け加えた。

「一度データを他人に渡したり、共有したりすると、データは失われます。それは一度限りの決定です。それらのファイルが完全に消去されるまで、データは常にそこにあります。」これは困難な作業であると同氏は述べた。 ファクラーの中心部、ノースカロライナ大学シャーロット校コンピューティング情報学部の助教授。

「誰もがこれらの企業を信頼しているわけではなく、おそらくいくつかの正当な理由があるでしょう。彼らは過去に他の企業との関係でやけどを負ったことがあるか、単に彼らの公式声明やウェブサイトに掲載されている内容に説得されていないだけです」とファクラリス氏は述べた。

「参考までに、OpenAI の目標が何であるかは必ずしも明らかではありません」とエバンス氏は述べています。 「彼らは、世界を改善し、日常のユーザーを向上させるためにこの健康に関する取り組みを行っているように聞こえますが、結局のところ、それはおそらく金銭的な遊びです。」

エバンス氏によると、ChatGPT Healthは現在欧州連合ではリリースされておらず、これが暴露される可能性があるという。

EUには一般データ保護規則（GDPR）として知られる、「現在最も強力なプライバシーとユーザーのセキュリティ保護の1つ」があるとエバンス氏は付け加えた。

「その場所にいると、それを使用できないと言っているようなものです」と彼は付け加えた。 「おそらく、考慮すべきプライバシーとセキュリティの問題がいくつかあるでしょう。 [ChatGPT doesn’t] 必然的に、自分たちはこれらの非常に厳しい規則を遵守できると感じているのです。」

米国には同等のプライバシーとセキュリティに関する法律が存在しないため、ChatGPT Health のようなサービスが米国で立ち上げられやすくなる可能性があります。

自分の健康記録、医療検査結果、スマートウォッチのフィットネスと健康データを ChatGPT Health にアップロードするという決断は大きな決断であり、そのように扱う必要があります。

「まず第一に…反射的にそれを決して行わないでください。ボタンを押すだけではなく、立ち止まって考えてみてください。『この会社にこのデータの追跡を失うことよりも、これから得られる洞察からより多くの利益を得られるだろうか?』」とファクラリス氏は言いました。

また、AI は物事をでっち上げている (幻覚とも呼ばれる) ことを忘れないでください、とファクラリス氏は言いました。つまり、間違った情報を提供している可能性があり、それが健康に関連するものであれば、非常に有害となる可能性があります。

AI医療サービスを実際の医療提供者の代わりにさせないでください、とファクラリス氏は付け加えた。 ChatGPT Health はプレスリリースの中で、このサービスは医師によるケアをサポートするものであり、医師によるケアに代わるものではないとも述べています。

D’Ovidio 氏は、このツールを使用することに決めた場合は、ChatGPT アカウントに関して「適切なセキュリティ衛生」を確保する必要があると述べています。これは、定期的に変更する固有のパスワードを使用し、二要素認証を有効にすることを意味します。

また、エバンス氏によれば、自分の健康データを複数のAI企業と共有すべきではないという。 「この情報を得るために複数の異なる場所を使い始めると、自分自身をさらにさらけ出すことになります」と彼は付け加えた。