Metaの独立した監督委員会であるOversight Boardは、AI生成コンテンツに関する同社のルールを刷新するよう、再度強く求めました。具体的には、誤情報ポリシーとは独立したAIコンテンツ専用のルールを設けること、より信頼性の高い検出ツールへの投資、そしてデジタル透かしのより効果的な活用などを提言しています。
AI生成動画が発端となった問題
この提言は、昨年共有されたあるAI生成動画がきっかけとなっています。この動画は、2025年のイスラエル・イラン紛争中にイスラエルの都市ハイファで建物が損傷した様子を映していると主張し、70万回以上再生されました。この動画は、ニュースメディアを装ったフィリピンの個人アカウントによって投稿されたものです。
Metaは当初、この動画を削除することも、「高リスク」AIラベル（AIによって作成または操作されたコンテンツであることを明確に示すラベル）を付与することも拒否しました。しかし、Oversight BoardはこのMetaの決定を覆し、「高リスク」ラベルの付与を命じました。この事例は、Metaの現行のAIルールがいくつかの点で不十分であることを浮き彫りにしたと、Oversight Boardは指摘しています。
Oversight Boardの主な提言内容
Oversight Boardは、Metaのプラットフォーム上で欺瞞的なAI生成コンテンツが拡散している現状に対し、ユーザーが「本物」と「偽物」を区別できるよう、より多くの対策を講じる必要があると述べています。特に、信頼性の低いアカウントやページによる公共の利益に関わる事柄でのAIコンテンツの悪用が問題視されています。Oversight Boardが「明らかな欺瞞の兆候」を指摘した後、Metaは最終的にこの動画に関連する3つのアカウントを停止しました。
Oversight Boardの主要な提言は以下の通りです。
- AIコンテンツ専用ルールの策定: 誤情報ポリシーとは別に、AI生成コンテンツに特化したルールを設けるべきです。このルールには、ユーザーがAIコンテンツにラベルを付けるべき具体的な状況や、ルール違反に対するMetaの罰則に関する情報を含めるべきだとされています。
- 「AI Info」ラベルの改善: Metaが現在使用している「AI Info」ラベルの適用方法が、「AI生成コンテンツの規模と速度に対応するには、堅牢性も包括性も不十分」であると厳しく批判されています。特に紛争や危機の際には、自己申告や稀にしか行われないエスカレートされたレビューに過度に依存するシステムでは、現在の課題に対応できないと指摘されています。
- 検出技術への投資: 音声や動画を含むAIメディアを確実に識別できる、より高度な検出技術への投資が必要です。
- デジタル透かしの一貫した適用: Meta自身のAIツールによって作成されたAIコンテンツへのデジタル透かしの適用が「一貫していない」という報告に対し、Oversight Boardは懸念を表明しています。
Metaの過去の対応と今後の課題
Metaは、Oversight Boardの提言に対し60日以内に正式に回答する義務があります。Oversight BoardがMetaのAIコンテンツへの対応を批判したのは今回が初めてではありません。過去にも同グループは、Metaの操作されたメディアに関するルールを「支離滅裂」と2度指摘しており、問題のあるコンテンツの特定を事実確認組織などの第三者に依存していることを批判してきました。今回のケースでも、Metaが「内部チームの能力の大幅な削減」により、外部からの働きかけや懸念への対応が遅れていると、事実確認組織から報告があったことが言及されています。Oversight Boardは、Metaが「武力紛争中にパートナーが働きかけるだけに頼るのではなく、自ら危害の評価を行う能力を持つべきだ」と主張しています。
Oversight Boardの今回の決定は昨年の投稿に関するものですが、武力紛争中のAI生成コンテンツの問題は、最近の中東紛争で新たな緊急性を帯びています。今月初めに米国とイスラエルがイランへの攻撃を開始して以来、ソーシャルメディア全体でAI生成の誤情報が急増しています。Oversight Boardは、生成AI企業との連携を以前から示唆しており、今回の提言はMetaだけでなく業界全体に適用されるべきだという考えを示しています。
「業界は、欺瞞的なAI生成コンテンツをユーザーが区別できるよう、一貫性のある対応を必要としており、プラットフォームは、そのようなコンテンツを共有する悪用的なアカウントやページに対処すべきだ」とOversight Boardは述べています。