AnthropicとETH Zurichの科学者による新たな研究が、現代の人工知能（AI）システムが、匿名とされているインターネットアカウントの背後にある現実世界の身元を特定できる可能性を示唆しています。この研究は、arXivでプレプリントとして公開されており、大規模言語モデル（LLM）がオンライン活動を分析し、仮名プロフィールと実在の個人を大規模に結びつける能力を持つことを示しています。
「LLMによる大規模オンライン匿名解除」と題されたこの研究は、AIエージェントがいかに匿名解除のプロセス、つまり匿名または仮名のオンラインアカウントを現実の身元に結びつける行為を自動化できるかを探求しています。従来、このプロセスはアナリストによる投稿内容、執筆スタイル、散在するオンラインの手がかりを検索する手作業の調査を必要としていました。しかし、研究者たちは、現代のAIモデルがこれらの多くのステップを自動で実行できることを実証しました。
AIシステムによる匿名解除のメカニズム
研究では、AIシステムがオンラインプラットフォームからの公開テキストを分析し、個人の興味、人口統計学的な手がかり、執筆スタイル、そして投稿で偶発的に明かされた詳細といった身元関連のシグナルを抽出しました。その後、AIはウェブ上で一致するプロフィールを検索し、それらの手がかりが既知の個人と一致するかどうかを評価しました。
実験内容と驚くべき結果
この手法を検証するため、研究者たちは既知の身元情報を持ついくつかのデータセットを作成しました。ある実験では、Hacker NewsのユーザーとLinkedInのプロフィールを照合しようと試み、名前やユーザー名といった明白な識別子を削除した後でも照合を行いました。別のデータセットでは、異なるコミュニティにわたるRedditの仮名アカウントをリンクさせました。さらに、単一ユーザーの投稿履歴を2つの別々のプロフィールに分割し、AIがそれらが同一人物のものであることを識別できるかをテストしました。
その結果、LLMベースのシステムは従来の匿名解除技術を大幅に上回る性能を示しました。一部のケースでは、AIは最大68%のリコール率と約90%の精度を達成し、比較的低いエラー率を維持しながら多くのアカウントを正確に特定しました。同じ実験における従来のメソッドの成功率はほぼゼロでした。
公式情報：Large-scale online deanonymization with LLMs
インターネットの匿名性への影響
研究者たちは、これらの発見が、かつて人間の調査員が何時間もかけていたタスクをAIが再現できることを強調していると述べています。匿名性は長らく、多くのインターネットユーザーにとって基本的な保護とされてきました。ジャーナリスト、内部告発者、活動家、そして機密性の高い話題を実名を出さずに議論したい一般の人々によって、仮名アカウントは広く利用されています。
この研究は、AIシステムがプラットフォームを横断するデジタルな手がかりを結びつける能力を高めるにつれて、「実用的な不明瞭さ」と呼ばれるこの保護層が弱まっている可能性を示唆しています。自動化されたツールがこの作業を迅速かつ安価に実行できるようになれば、匿名ユーザーを特定する障壁は劇的に低下する可能性があります。
今後の課題と対策
研究者たちは、実験的なパイプラインを使用してオンラインアカウントを特定するコストが、1プロフィールあたり1ドルから4ドルにまで低下する可能性があると推定しており、大規模な調査が比較的安価に実施できることを意味します。
ただし、著者らは、この研究が管理された環境で公開データを使用して実施されたことにも言及しています。この論文はまだ査読を受けておらず、研究者たちは悪用のリスクを減らすために一部の技術的詳細を意図的に非公開にしています。
それでも、この発見はすでにプライバシー専門家や技術者の間で議論を巻き起こしています。この研究は、個人がオンラインで開示する個人情報について、たとえ匿名に見える空間であっても再考する必要があることを示唆しています。今後、AIによる匿名解除のリスクと可能な防御策の両方を理解するために、さらなる研究が必要であると研究者たちは述べています。潜在的な解決策としては、プライバシーツールの改善、プラットフォームの保護強化、または機密データが公開される前に匿名化するように設計されたAIシステムなどが考えられます。
人工知能が大量のオンラインコンテンツを分析する能力を高めるにつれて、この研究は、AI主導の発見の力と、デジタル時代における個人のプライバシーを保護する必要性とのバランスを取るという、増大する課題を浮き彫りにしています。