OpenAIが発表した報告書によると、中国に関連する可能性のある偽アカウント群が、同社のAIチャットボットChatGPTを用いて、アメリカ国内のAIデータセンターに対する世論操作を試みていたことが明らかになりました。これらのアカウントは、データセンターの電力消費による電気料金高騰といった現実的な懸念を悪用し、アメリカ人の意見を誘導しようと画策していたとされています。
ChatGPTが悪用された世論操作キャンペーンの概要
OpenAIが特定した影響力工作キャンペーンは、主に二つのグループに分けられます。一つ目のグループは「データセンター反対派」を装い、AIデータセンターが電力需要を増加させ、結果的に消費者の電気料金を押し上げるという論点に焦点を当てていました。
「データセンター反対派」を装った手口
このグループのアカウントは、ChatGPTに英語の論点や漫画などの画像を生成させ、それらをソーシャルメディアで投稿していました。彼らはさまざまな背景を持つアメリカ人になりすまし、電力網の容量オークションやデータセンターの電力需要に関する「正当なニュース記事」へのリンクも共有していました。OpenAIは、これらのユーザーが中国の民間企業に所属し、地方政府の顧客のために活動しているソーシャルメディアチームの一部である可能性が高いと見ています。彼らはChatGPTに目的や戦略、偽アカウントの検出回避方法を記したファイルをアップロードしていたことも判明しています。
さらにこのグループは、海外に住む中国人をも標的にし、ChatGPTを使って中国の反体制派や政治評論家を中傷するコメントを生成させていました。また、アメリカ在住の中国人移民や専門家を装い、オンラインの著名人に対し、アメリカの政策の失敗について言及するよう促す活動も行っていたとされています。
米国の政策批判に焦点を当てた別の工作
二つ目のグループは、アメリカの関税やテクノロジー政策を批判するコメントや画像を生成していました。特に、アメリカが同盟国を裏切っていると強調する内容に焦点を当て、中国の習近平国家主席が生成画像に含まれないよう指示していました。このグループは、英語、イタリア語、日本語、繁体字中国語でコメントを作成し、台湾の視聴者をターゲットにしていたと報じられています。
キャンペーンの目的とOpenAIの分析
OpenAIの報告によると、これらのキャンペーンは「本物のエンゲージメントをほとんど獲得できず」、世論を大きく動かすには至らなかったとされています。キャンペーンが焦点を当てたのは、すでにオンラインで広く議論され、物議を醸している現実的な問題でした。OpenAIは、これらの工作活動の重要性について、「オペレーターは、自らの身元や動機を隠しながら、アメリカのAI能力の将来に関する進行中の議論にひそかに介入しようと試みた」点にあると説明しています。
なぜChatGPTが選ばれたのか？
なぜこれらのキャンペーンが、DeepSeekのような中国製のAIチャットボットではなく、アメリカ製のChatGPTを選んだのかについて、OpenAIは明確な理由を特定できていません。報告書では、「この選択を促した要因を判断できる立場にはない」と述べられています。
独自の視点：AI悪用の新たな脅威と対策の課題
今回のOpenAIの報告は、AI技術が国家レベルの世論操作や影響力工作に悪用される可能性を具体的に示しました。特に注目すべきは、データセンターの電力消費による電気料金高騰といった、アメリカ国内で実際に懸念されている問題を悪用し、偽アカウントを通じて意見を誘導しようとした手口の巧妙さです。これは、単なるフェイクニュースの拡散にとどまらず、現実の社会課題に便乗して分断を深めようとする、より洗練されたアプローチと言えるでしょう。
キャンペーン自体は大きな影響を与えなかったとされていますが、AIチャットボットが偽情報生成やアカウント運用計画に利用された事実は、AI開発企業にとってセキュリティ対策と悪用防止への継続的な取り組みが不可欠であることを示唆しています。AIモデルの安全性と倫理的な使用を確保するためには、悪意ある利用を検出し、阻止するための技術的・政策的対策を強化していく必要があります。また、ユーザー側も、オンライン上の情報源を常に批判的に評価し、情報の真偽を見極めるリテラシーがこれまで以上に求められる時代になったと言えるでしょう。
まとめ
OpenAIが明らかにした中国関連の偽アカウントによるChatGPT悪用事例は、AI技術が世論操作のツールとして利用され得る現実を浮き彫りにしました。データセンターの電力問題やアメリカの政策批判といった既存の議論に便乗し、偽のアイデンティティで介入しようとする試みは、AI時代における情報セキュリティと国家安全保障の新たな課題を提示しています。今後、AI技術の進化とともに、このような影響力工作の手口も巧妙化する可能性があり、その監視と対策が国際的な課題となるでしょう。
情報元：engadget.com
