1754969298
2025-08-12 02:35:00
4人中2人の業者は、他のビッグテック企業向けの類似のプロジェクトにも携わっており、メタのプロジェクトで、未編集の個人データが会話に含まれるケースが、より頻繁に見られたと語った。
2025年7月に使われていた2つのプロジェクトの文書には、請負業者に対して、評価の対象となっている会話は、ユーザーとチャットボットで実際に行われていた会話だと記されていた。
請負業者らはBIに対し、彼らが目にした多くの会話が非常に個人的な内容だったと述べている。また、AIとの会話は、セラピーのようなものや友人とのやりとりのようなプライベートな会話、またはロマンチックなパートナーとの親密なやり取りの形であったと述べている。
ユーザーは、自分の幻想について打ち明けたり、チャットボットに好意を持っているような会話をしたり、他人や自分の身の回りの問題について愚痴を言ったり、アドバイスを求めたりしているという。そして、ユーザーがこれらのやり取りの中で自分の連絡先の情報や役職、居場所、子供に関する詳細な情報を開示してくるケースがあったと述べている。
Alignerrが行っていたメタのAI Studioのユーザー定着率とエンゲージメントの向上を目的としたオムニ（Omni）というプロジェクトに携わったある委託業者は、BIに対し、一部のユーザーがチャットボットに自撮り写真や露骨な写真を共有していたと明かした。
メタのAI利用規約では、同社が「ユーザーとAIのやり取りをレビューする可能性があり」、それらは「自動」または「人によって」行われる可能性があるとしている。
メタの広報担当者はBIに対し、同社は従業員と請負業者双方に対し、「個人データへのアクセスに関する厳格なポリシー」を定めていると述べた。
「我々は、トレーニングデータの品質向上のために委託業者と協力をしていますが、彼らが閲覧できる個人情報を意図的に制限しており、そのような情報に遭遇した場合に対応できるプロセスと安全対策も整備しています」（メタの広報担当者）
一方、スケールAIの広報担当者は、「作業に従事する人はプロジェクトに必要な範囲で個人データを処理する権限を有している」という。しかし、アウトライヤーのセキュリティ基準を遵守しなければならず、「個人を特定できる情報が含まれている回答について報告し、そのようなコンテンツを含む作業をスキップするよう指示されている」と語った。
「ユーザーが生成したデータは、いかなる時も顧客のプラットフォーム外に出ることはありません」とその広報担当者は言う。「多くのプロジェクトは顧客のラベリングプラットフォーム上で作業が行われており、ユーザーの生成したデータをユーザーのシステム内に置くことで安全性が確保されています」
Alignerrはコメント要請に応じなかった。
こうしたことは、企業が新しく急速に発展する技術を向上させるために人材を採用する中、セキュリティの欠陥とプライバシーの問題が浮上した最近の例である。BIが、委託業者向けの公開されているGoogle Docsに機密のクライアントデータが含まれていると報じた後、スケール AIはそれらのGoogle Docsを非公開にした。そうした文書の一部には、xAIとメタがAIモデルをどのように訓練しているのかの詳細が記されていた。トレーニングプラットフォーム企業であるサージ（Surge）も、公開されたスプレッドシートを使って、委託事業者がアンスロピック（Anthropic）のAIを調整する際に使うべきウェブサイトについて指示を出していた、とBIが報じている。
「チャットは非公開なものだと決して仮定すべきでない」
個人データがチャットボットと共有され、悪意のある第三者の手に渡った場合、そのリスクは極めて高い。なぜなら、それは「操作、詐欺、その他の不正利用への扉を開くことになる」からだと、デジタル権利とプライバシーに特化した非営利団体、センター・フォー・デモクラシー・アンド・テクノロジー（Center for Democracy and Technology）のAIガバナンス・ラボ所長であるミランダ・ボゲン（Miranda Bogen）はBIに語った。
ボゲンは、プライバシーに対して懸念を持つユーザーに対し、「チャットボットが本質的にプライベートであるとは決して仮定しないように。特に企業によってどう実践しているかが大幅に異なるためだ」と語る。
ボゲンはさらに、チャットボットのようなAIツールは「他のオンラインツールとは非常に異なる方法で使われている」と指摘し、こう述べた。
「ユーザーは、自分の会話が製品の開発に利用され、人にアクセスされる可能性があることに気づいていないのかもしれません」
メタ、OpenAI、グーグルを含む多くのテクノロジー企業は、プライバシーポリシーで、ユーザーとAIの間の会話をモデルを訓練し微調整するために使う場合があると明記している。
「人が見るということが想定されていないデータは、業界で長年問題となってきた」とボゲンは語る。
「これは単に次のバージョンなのです。違いは、これらのツールを利用する人々が感じる文脈がより親密である点です。時には、セラピーのようなサポートを受けるためだったり、仕事に関する機密情報を提供するためだったりします」（ボゲン）
データの特定
BIは、請負業者が個人を特定できる情報に遭遇する頻度を正確に把握できなかった。しかし、BIが取材した請負業者は、メタのAIプロジェクトを行う中で、定期的にそうした情報に遭遇したと述べている。
オムニ・プロジェクトに携わったある業者は、週に最大5000件のAIトレーニングタスクを完了したと述べた。彼らは、個人を特定できる情報を含むチャットをチェックし、それらを除外するように指示されていた。その請負業者は、「60%から70%」のケースで、ユーザーの電話番号やインスタグラムのユーザー名などの個人データに遭遇したという。
PQPEというアウトライナーの別のプロジェクトは、ユーザーの氏名、性別、所在地、趣味など、AIがユーザーについてすでに把握している情報を参照させることで、メタのAIとユーザーの会話をよりパーソナライズされたものにすることを目指すものだった。各ユーザーのチャットログには、AIが参照すべきユーザーのファクト情報リストがついていた。これらの情報は、ユーザーとAIの過去の会話とユーザーの「SNS上のプロフィールなど」に基づいていると、プロジェクト文書では説明されている。このプロジェクトでは、請負業者は個人情報を含むチャットを除外することができなかった。
メタの広報担当者は、AIをパーソナライズするプロジェクトにおいて「委託業者は業務の過程で特定の個人情報にアクセスするのを許されている」と述べ、これはメタのプライバシーポリシーとAI利用規約に準拠している場合に限られると説明した。
また、ユーザーが自分の近くにあるカフェを探すためにサポートを求めている場合など、彼らがタスクに必要な個人情報に触れる場合もあると語った。
委託業者によると、トレーニングタスクで提供されたユーザーの説明をいくつか組み合わせれば、ユーザーの身元を「完全に」特定することが可能だという。
メタの広報担当者は、すべての業者がサイバーセキュリティとプライバシーリスク管理の基準に対する評価を満たしていると述べている。
性的な内容を含むチャット履歴に付随するユーザーデータには、名前、都市、性別、趣味のリストなど、フェイスブックのプロフィールでBIがそれらと一致する情報を見つけるのに十分なほどの詳細が記されていた。ちなみにBIの検索は5分未満で完了することができた。
BIが閲覧したが詳細を発表しないと判断した会話を担当した業者は、その内容があまりにも衝撃的だったため、その日のタスクを終了せざるを得なかったと述べている。
「それは大変なものでした。ですから、我々は、その夜の作業を中断せざるを得ませんでした」
チャットボットのプライバシー
メタのようなテック企業は、パーソナライズされたAIの開発に競って取り組んでおり、こうした動きにより個人情報や機密性の高いユーザーデータの処理量は増加している。
メタのマーク・ザッカーバーグCEOは最近、「パーソナル・スーパーインテリジェンス」のためのビジョンを発表した。「我々を深く理解し、我々の目標を把握し、それらを達成するのを助けるAI」のことである。
最近の別の例では、ユーザーがAIとのチャットが公開されていることに気づいていなかったケースもあったようだ。BIは6月に、メタのAIアプリ内の会話で、ユーザーが医療に関する質問、キャリアアドバイス、人間関係の問題など、個人情報を無意識に共有していたと報じた。一部には電話番号、メールアドレス、本名などの特定可能な情報が含まれていた。
これを受けて、メタはメタAIアプリに新しい警告機能を導入している。
しかし、アプリでは依然としてユーザーがチャットを共有できるようになっており、これによりチャットがインデックス化され、グーグルの検索結果に表示される可能性があることをBIが8月の初旬に報じた。同じ週、オープンAIは、共有されたチャットGPTの会話がグーグルにインデックス化される機能を除いている。
AI + プラネタリー・ジャスティス・アライアンス（AI + Planetary Justice AllianceというAIと地球規模の正義を推進する研究者・活動家のグローバルな団体）の創設者、サラ・マルクッチ（Sara Marcucci）は、BIの報道で委託された業者が個人情報を閲覧している点について、「データの最小化、黒塗り処理、ユーザーのコントロールへの対応が、業界の中で統一されていず、適切に行われていないことを表している」と述べた。
ボゲンは、自動化されたフィルターが個人を特定できる情報を検出・削除できるものの、すべてを検出できないため、人間によるチェックが必要だと指摘した。
「人が見つけて削除するプロセスがあるからといって、何も起こってないわけではない。既存のシステム（もしあるなら）が不完全であり、それが不完全だと認識されていることを示しているのです」（ボゲン）
#AIとの会話は人に読まれ個人情報も見られる可能性があるメタの委託業者がAIトレーニング中に遭遇した赤裸々な会話 #Business #Insider #Japan