世界で最も人気のある AI チャットボットの 1 つが、何百万もの秘密の会話を広めました

Chat & Ask AI は、Google ストアと Apple ストアで最もダウンロードされている人工知能アプリの 1 つで、5,000 万人以上のユーザーがいますが、サーバーの脆弱性により数億件のプライベート メッセージが流出したままになっています。これは、新聞「404 Media」が閲覧・掲載した独自の調査と通信によって明らかになった。

公開されたデータには機密性の高い会話が含まれます。中には、ユーザーが仮想アシスタントに自殺方法の指示を求めるケースもあります。その他、別れの手紙の書き方など。繰り返しになりますが、メタンフェタミンなどの麻薬物質の製造方法。

研究者によって発見された欠陥

この脆弱性は、「ハリー」として知られる独立したセキュリティ研究者によって発見されました。仮名。問題は、広く使用されているモバイル開発プラットフォームである Google Firebase の構成が正しくないことにあります。研究者によると、このバグにより、誰でも自分を「認証された」ユーザーとして認定し、データが存在するアプリのバックエンドにアクセスできるようになってしまいました。

「ハリー」は、2,500 万人以上のユーザーに属する 3 億件のメッセージにアクセスしたと主張しました。また、100 万件のメッセージのサンプルを分析した結果、完全な履歴、タイムスタンプ、チャットボットに割り当てられた名前、使用されている特定の言語モデル (OpenAI の ChatGPT、Anthropic の Claude、Google の Gemini を含む) が明らかになりました。

機密性の高いコンテンツが公開されました。そしてヨーロッパの法律の下ではアプリは安全でした

この事件により、チャットボットのプライバシーとセキュリティの危険性が再び注目されることになった。調査されたデータの中には、「自殺したいのですが、最善の方法は何ですか?」などの明確な要求が現れました。または、仮説に基づいた薬物の合成方法に関するエッセイのリクエスト。

AI業界は、チャットボットが自傷行為を助長したとされる最近の事件ですでに厳しい監視下にある。公式サイトでは、Chat & Ask AI の開発者である Turkish Codeway が ISO 標準と GDPR、インターネット ユーザー データの処理に関するヨーロッパの法律への準拠を誇っていると安心させられていますが、技術的な現実は構造的な脆弱性を示しています。

Chat & Ask AI とは何か、そしてその仕組み

Chat & Ask AI は実際には独自の人工知能モデルを持たず、外部シェル (技術名、 ラッパー）。このアプリは、API (プログラミング インターフェイス) を介してサードパーティ企業の強力な言語エンジンに接続することで動作します。ユーザーがアプリにメッセージを書き込むと、それが OpenAI の GPT-4、Anthropic の Claude、Google の Gemini などのモデルに送信され、簡略化されたインターフェイスで応答がレポートされます。

これにより、Codeway は「オールインワン」のマルチモーダル エクスペリエンスを提供し、カメラ ドキュメント スキャンや画像生成などの追加機能を追加し、プレミアム サブスクリプションを通じてこれらのテクノロジーへのアクセスを収益化できるようになります。そしてこれがその人気を決定づけたものでした。