ChatGPTはユーザーのプライベートな会話からパスワードを漏洩しているとArsリーダーが語る

ChatGPTは、無関係なユーザーのログイン資格情報やその他の個人情報を含むプライベートな会話を漏洩していることが、月曜日にArs読者によって提出されたスクリーンショットで示された。

読者が投稿した 7 枚のスクリーンショットのうち 2 枚が特に目立っていました。 どちらにも、薬局の処方薬ポータルの従業員が使用するサポート システムに接続されていると思われるユーザー名とパスワードのペアが複数含まれていました。 AI チャットボットを使用している従業員は、ポータルの使用中に発生した問題のトラブルシューティングを行っているようでした。

「ひどい、ひどい、ひどい」

「これは本当に狂っていて、恐ろしい、恐ろしい、恐ろしい。そもそもこれがどれほど貧弱に建てられたのか信じられない、そして目の前に置かれた障害物がそれが良くなるのを妨げている」とユーザーは書いた。 「私なら発砲するだろう [redacted name of software] それが私の選択だったとしても、この不条理のためだけに。 これは間違っています。”

流出した会話には、率直な言葉と資格情報のほかに、従業員がトラブルシューティングを行っているアプリの名前と、問題が発生した店舗の番号が含まれている。

会話全体は、上の編集されたスクリーンショットに示されている内容をはるかに超えています。 Ars 読者の Chase Whiteside 氏が掲載したリンクには、チャットの会話全体が示されていました。 URL には追加の資格情報のペアが開示されていました。

この結果は、読者のホワイトサイド氏が無関係なクエリに ChatGPT を使用した直後の月曜日の朝に発表されました。

「私はクエリを作成しに行きました（この場合、パレット内の色の気の利いた名前を考えるのを手伝ってくれました）。そして、しばらくして再びアクセスしたときに、さらに会話が行われていることに気づきました」とホワイトサイド氏は電子メールで書いた。 「昨夜 ChatGPT を使用したときは存在しませんでした (私はかなりのヘビー ユーザーです)。 クエリは行われませんでした。それらは私の履歴に表示されただけであり、間違いなく私からのものではありません（同じユーザーからのものでもないと思います）。」

ホワイトサイドに漏洩した他の会話には、誰かが取り組んでいたプレゼンテーションの名前、未発表の研究提案の詳細、PHP プログラミング言語を使用したスクリプトなどが含まれます。 流出した各会話のユーザーは異なっており、互いに無関係であるように見えました。 処方ポータルに関する会話には 2020 年が含まれていました。他の会話には日付は表示されませんでした。

このエピソードや同様のエピソードは、ChatGPT やその他の AI サービスに対するクエリから個人情報を可能な限り削除するという賢明さを強調しています。 昨年3月、ChatGPTメーカーのOpenAIは、サイトで1人のアクティブユーザーのチャット履歴のタイトルが無関係のユーザーに表示されるバグが発生したため、AIチャットボットをオフラインにした。

11月、研究者らは、クエリをどのように使用してChatGPTに電子メールアドレス、電話番号、ファックス番号、物理的な住所、およびChatGPT大規模言語モデルのトレーニングに使用されるマテリアルに含まれるその他の個人データを漏洩させたかを報告する論文を発表した。

専有データや個人データの漏洩の可能性を懸念し、Apple を含む企業は従業員による ChatGPT および同様のサイトの使用を制限しています。

Ubiquity の UniFy デバイスが無関係なユーザーのプライベート ビデオをブロードキャストしていることを複数の人が発見した 12 月の記事で述べたように、この種のエクスペリエンスはインターネットと同じくらい古いものです。 記事で説明されているように:

このタイプのシステム エラーの正確な根本原因はインシデントごとに異なりますが、多くの場合、フロントエンド デバイスとバックエンド デバイスの間にある「ミドルボックス」デバイスが関係しています。 パフォーマンスを向上させるために、ミドルボックスは、最近ログインしたユーザーの資格情報を含む特定のデータをキャッシュします。不一致が発生した場合、あるアカウントの資格情報が別のアカウントにマップされる可能性があります。

OpenAIの代表者は、同社がこの報告書を調査していると述べた。