人類研究によると、AI は匿名のインターネット アカウントを大量に公開できる可能性がある

Anthropic とチューリッヒ工科大学の科学者が参加した新しい研究は、現代の人工知能システムが、おそらく匿名のインターネット アカウントの背後にある現実世界の身元を特定できる可能性があることを示唆しています。この研究は、 arXiv のプレプリントは、大規模言語モデル (LLM) がオンライン アクティビティを分析し、偽名プロフィールを実際の個人に大規模にリンクできる可能性があることを示しています。

「LLM を使用した大規模オンライン匿名化解除」と題されたこの研究では、どのような方法で匿名化が行われるかを調査しています。 AIエージェント 匿名化のプロセス、つまり匿名または仮名のオンライン アカウントを実際の身元に結び付ける行為を自動化できます。従来、このプロセスには、投稿、書き方、オンラインに散在する手がかりを検索するアナリストによる大規模な手動調査が必要でした。ただし、研究者らは、最新の AI モデルがこれらの手順の多くを自動的に実行できることを実証しています。

この研究では、AI システムがオンライン プラットフォームからの公開テキストを分析し、個人的な興味、人口統計上の手がかり、文体、投稿で明らかになった付随的な詳細などのアイデンティティ関連のシグナルを抽出しました。次に、AI はウェブ全体で一致するプロフィールを検索し、手がかりが既知の個人と一致するかどうかを評価しました。

この方法をテストするために、研究者は既知のグラウンドトゥルースのアイデンティティを備えたいくつかのデータセットを作成しました

ある実験では、名前やユーザー名などの明らかな識別子を削除した後でも、Hacker News ユーザーと LinkedIn プロフィールを照合しようとしました。別のデータセットには、異なるコミュニティ間での偽名の Reddit アカウントのリンクが含まれていました。 3 番目のデータセットは、1 人のユーザーの投稿履歴を 2 つの別々のプロフィールに分割し、AI がそれらが同じ人物に属していることを識別できるかどうかを確認しました。

結果は、LLM ベースのシステムが従来の匿名化解除技術を大幅に上回っていることを示しました。場合によっては、モデルは約 90% の精度で最大 68% の再現率を達成しました。これは、AI が比較的低いエラー率を維持しながら、多くのアカウントを正しく識別したことを意味します。同じ実験における従来の方法では、成功率はほぼゼロでした。

研究者らは、今回の研究結果は、かつて人間の調査員が何時間もかけて行っていた作業をAIがどのように再現できるかを浮き彫りにしたと述べている。 AI システムは、テキストから ID 関連の特徴を自動的に抽出し、数千のプロファイルの中から一致する可能性のあるものを検索し、どの候補が正しい可能性が最も高いかを推論できます。

匿名性は多くのインターネット ユーザーにとって基本的な保護手段と長い間考えられてきたため、この開発は重要です。

仮名アカウントは、ジャーナリスト、内部告発者、活動家、そして本当の身元を明らかにせずにデリケートな話題について議論したい一般の個人によって広く使用されています。

この研究は、AI システムがプラットフォーム間でデジタル手がかりを結び付ける能力が向上するにつれて、「実用的な曖昧さ」とも呼ばれるこの保護層が弱体化している可能性があることを示唆しています。自動ツールがこの作業を迅速かつ低コストで実行できれば、匿名ユーザーを特定する障壁は劇的に下がる可能性があります。

研究者らは、実験パイプラインを使用してオンラインアカウントを特定するコストは、プロファイルあたり 1 ドルから 4 ドルの間に収まる可能性があると推定しています。これは、大規模な調査を比較的安価に実施できることを意味します。

ただし、著者らは、この研究が公的データを使用して管理された環境で実施されたことにも言及しています。この論文はまだ査読されておらず、研究者らは悪用のリスクを軽減するために一部の技術的な詳細を意図的に差し控えた。

それでも、この調査結果はプライバシーの専門家や技術者の間ですでに議論を引き起こしている

この研究は、たとえ匿名のように見えるスペースであっても、個人がオンラインでどの程度の個人情報を公開するかを再考する必要がある可能性があることを示唆しています。今後を見据えて、AIによる匿名化に対するリスクと考えられる防御策の両方を理解するにはさらなる研究が必要だと研究者らは述べている。潜在的な解決策としては、プライバシー ツールの改善、プラットフォームの安全対策の強化、機密データが公に共有される前に匿名化するように設計された AI システムなどが挙げられます。

人工知能が大量のオンライン コンテンツを分析できるようになるにつれて、この研究は、AI による発見の力と、デジタル時代における個人のプライバシーを保護する必要性とのバランスを取るという、増大する課題を浮き彫りにしました。