近年、私たちの生活に欠かせないツールとなりつつあるAI（人工知能）。その中でも、**大規模言語モデル（LLM）**は、自然な文章生成能力で私たちの仕事を助けてくれます。しかし、この強力な技術が、サイバー犯罪者たちの手によって悪用され始めていることをご存知でしょうか？
先日、セキュリティ業界に衝撃が走るニュースが発表されました。Microsoft Threat Intelligenceチームが、AI（LLM）によって生成されたコードを用いて、従来のセキュリティシステムを巧妙に回避するフィッシング詐欺を発見し、阻止したというのです。
これは、従来のフィッシング詐欺とは一線を画す、全く新しい脅威です。今回は、この「LLM難読化フィッシング攻撃」の具体的な手口と、私たちが取るべき対策について、詳しく解説していきます。
AI vs. AI：巧妙なフィッシング攻撃の全貌
この攻撃の標的となったのは、主に米国を拠点とする企業でした。攻撃者は、まず中小企業のメールアカウントを侵害し、そこからフィッシングメールを大量に送信しました。驚くべきは、そのメールの送信元と宛先が一致しているという巧妙な手口です。これは、従来のメールセキュリティシステムを欺くためのもので、実際のターゲットは**BCC（ブラインドカーボンコピー）**に隠されていました。
メールの内容は、一見すると「共有ファイルへのアクセス通知」に見せかけたものでした。ユーザーがリンクをクリックすると、一見PDFファイルに見えるSVG（Scalable Vector Graphics）ファイルが開くように誘導されます。
このSVGファイルこそが、今回の攻撃の核心です。通常、SVGファイルに悪意のあるコードを隠すことは難しいとされていましたが、攻撃者はLLMを用いて、この常識を覆しました。彼らは、SVGコードの内部に「ビジネスパフォーマンスダッシュボード」を模した、無害に見えるビジネス用語を大量に散りばめたのです。
具体的には、「revenue（収益）」「operations（運営）」「risk（リスク）」といった言葉を羅列し、それらの単語の並び順や組み合わせに、悪意のあるJavaScriptコードを難読化して埋め込んでいました。これにより、従来のパターン認識型のセキュリティシステムでは、これが悪意のあるファイルだと見抜くことが非常に困難でした。
しかし、Microsoftの**AIセキュリティアシスタント「Security Copilot」が、この巧妙な仕掛けを見抜きました。Security Copilotは、コードの文法的・構造的な特徴を分析し、「過剰に説明的な変数名」「過剰に複雑なコード構造」「不必要なコメント」といった、LLMが生成したコードに特有の不自然なパターンを検出したのです。これはまさに、AIが作り出した攻撃を、別のAIが発見し、阻止したという、現代ならではの「AI vs. AI」**の攻防と言えるでしょう。
なぜAIはフィッシング詐欺に利用されるのか？
今回の事例からも分かるように、LLMはフィッシング詐欺の効率性、説得力、そしてステルス性を劇的に向上させています。
- 人間らしい文章の自動生成
- 従来のフィッシングメールは、文法ミスや不自然な表現が多いため、見分けやすいものがほとんどでした。しかし、LLMは完璧な文法と自然な文体で、あたかも人間が書いたかのようなメールを大量に生成できます。これにより、警戒心の低いユーザーでも騙されやすくなりました。
- パーソナライズされた攻撃
- LLMは、公開されている情報（SNSの投稿、企業の公式サイトなど）を分析し、ターゲットの役職や業務内容に合わせた、よりパーソナライズされたメールを作成することができます。これにより、攻撃の成功率が大幅に上がります。
- コードの自動難読化
- 今回の事例のように、LLMは悪意のあるコードを自動で生成し、さらにそれを難読化することも可能です。これにより、攻撃者は従来のセキュリティシステムを回避し、より深い層にまで侵入を試みることができます。
企業・個人が取るべき対策
AIが進化するにつれて、サイバーセキュリティの脅威はますます複雑化しています。しかし、適切な知識と対策があれば、被害を防ぐことは可能です。
1. 従業員へのセキュリティ教育の徹底
AIが生成したフィッシングメールは、従来のパターンでは見抜けないことが増えています。怪しいリンクをクリックしない、添付ファイルを安易に開かないといった基本的なルールの再確認に加え、**「完璧すぎる文章」「不自然なタイミングのメール」「不審な送信元アドレス」**など、AI生成の兆候を従業員に教育することが不可欠です。
2. 多要素認証（MFA）の導入
IDとパスワードだけでなく、スマートフォンや認証アプリを使った**多要素認証（MFA）**を導入することで、万が一フィッシング詐欺で認証情報が盗まれても、不正ログインを防ぐことができます。これは、企業・個人問わず、最も効果的な対策の一つです。
3. 最新のセキュリティソリューションの活用
Microsoft Defender for Office 365のように、AIを活用した最新のセキュリティソリューションは、従来のパターン認識だけでなく、行動分析やAI生成コードの兆候を検知する能力を持っています。こうした**「AI vs. AI」の戦い**に備えるため、常に最新の防御策を導入することが重要です。
まとめ
AIは私たちの生活を豊かにする一方で、サイバー犯罪者にとっても強力な武器となっています。今回のMicrosoftの発見は、AIがもたらす新しい脅威の始まりを告げるものでしょう。しかし、同時にAIが防御側にも活用できることを示しています。私たちは、AIを理解し、その両面性を認識することで、このデジタル社会を安全に航海していく必要があるのです。
ポチップ