AI画像がボンダイビーチのテロ攻撃を捏造したと誤って示唆
ソーシャルメディア上では、日曜日にオーストラリアのボンダイビーチで発生した、15人が死亡、数十人が負傷したテロ攻撃に関連して、偽情報が氾濫しています。特に、X（旧Twitter）で拡散されているAI生成画像が、誤った情報の拡散に利用されています。
AI生成画像である証拠
この画像がAIによって作成されたものであることは、多くの明白な兆候から判断できます。写真の背景に写る歪んだ車や、不自然に変形した手を持つスタッフなどは、AI生成画像によく見られる特徴です。オンラインで拡散されている画像の多くは、これらの背景要素を切り取っており、AIによる加工の痕跡を隠蔽しようとしていると考えられます。
また、登場人物のTシャツに印刷された文字は、AIがしばしば行うように、判読不能なほど歪んでいます。さらに、AI画像に写るメイクアップアーティストの手には、不自然に膨らんだ指が6本あるように見えます。これは、詳細にズームインして確認すると明らかです。
AIウォーターマーク：SynthID
GoogleのAI画像生成ツールは、目に見えないウォーターマークを生成します。このウォーターマーク技術はSynthIDと呼ばれ、数年前に導入されましたが、一般ユーザーがウォーターマークを確認できるツールは、つい最近まで提供されていませんでした。しかし、先月、GeminiがSynthIDマークを検出する機能を持つようになりました。
Gizmodoが火曜日に実施したテストによると、この偽の画像にはGeminiによってSynthIDマークが検出されました。SynthIDマークがないからといって画像が本物であるとは限りませんが、Googleの製品で作成されたものではない可能性が高いことを示しています。
しかし、AI画像検出ツールの多くは信頼性が低く、この問題は深刻です。GrokやChatGPTのようなAIチャットボットにこの画像が本物かどうか尋ねたところ、それらはAIによって生成されたものではないと断言し、むしろ本物であると主張する始ョkです。
Grokの失敗
Grokは、しばしば信頼性の低い情報を提供する傾向がありますが、このAI画像についても同様でした。Grokは、この画像が「メイクアップアーティストが映画のセットで偽の血を塗っている」様子だと説明し、AI生成の兆候はないと主張しました。しかし、同時に「オンラインの投稿の中には、これが偽旗である可能性を示唆するものもある」と付け加え、情報の信憑性について曖昧な態度を示しました。
ChatGPTの失敗
GizmodoがChatGPTにこの画像について尋ねたところ、ChatGPTも「AIによって生成された明確な兆候はない」と回答し、あたかも本物の舞台裏写真であるかのように説明しました。さらに、「 plausibility（もっともらしさ）」「messy realism（乱雑なリアリズム）」「consistent fine details（一貫した詳細）」などを理由に、AI生成ではないと断定しました。
Claudeの失敗
AnthropicのClaudeにこの画像をアップロードしたところ、「これは映画やテレビ番組の制作現場からの素晴らしい舞台裏写真です！」と応答し、AI生成ではないと断言しました。Claudeは、ChatGPTと同様に、「プロフェッショナルなメイクアップ」「リアルな物理的ディテール」などを理由に、画像が本物であると説明しました。
Copilotの失敗
MicrosoftのCopilotも同様に、この画像を本物と判断しました。ChatGPT、Claude、Grokと同様の応答をしました。
その他のAI検出ツールの失敗
Gizmodoは、Google検索で一般的に見られるAI画像検出ツールもテストしましたが、結果は同様に芳しくありませんでした。多くのツールが、この明らかに偽の画像を本物だと判断しました。
X（旧Twitter）の失敗
X（旧Twitter）の青いチェックマークを持つアカウントの中には、AIチェッカーがこの偽画像を人間が生成したものだと主張するスクリーンショットを投稿し、「ボンダイビーチの周辺がリアルに見えるため、AIではない」と誤った主張をするユーザーもいました。AIはあらゆる環境を再現した画像を生成できるため、この主張は明らかに間違っています。この事実は、陰謀論を拡散する人々がプラットフォーム上で影響力を持つことの問題点を示唆しています。
オーストラリアにおける影響
ボンダイビーチのテロ攻撃の犠牲者には、10歳少女やホロコースト生存者も含まれています。これらの被害者への最初の葬儀は水曜日に行われる予定です。
攻撃者は、警察によって現場で射殺された50歳のサジド・アクラムと、その息子で24歳のナビードです。彼らはイスラム国のテロ集団に影響を受けたと報じられており、最近フィリピンを旅行したことが明らかになっています。
オーストラリアには厳格な銃規制がありますが、日曜日の攻撃で使用された銃器はすべて合法的に入手されたものであることが警察によって確認されています。オーストラリアのアンソニー・アルバネーゼ首相は、銃規制の強化を支持しており、銃所持ライセンスを持つ人々に対するより頻繁なチェックを提唱しています。