米国政府は、AI開発企業Anthropicの最新かつ最も強力なAIモデルである「Fable 5」と「Mythos 5」に対し、外国人ユーザーおよび米国内で働く外国籍のAnthropic従業員からのアクセスを停止するよう指示しました。この措置は国家安全保障上の懸念に起因しており、AI技術の安全性と規制に関する議論が再び活発化しています。
米国政府によるアクセス制限の背景
Anthropicは2026年6月12日に米国政府からの指示を受け、Fable 5とMythos 5の全顧客に対するアクセスを停止しました。この規制は、Fable 5のセーフガードを迂回する、いわゆる「ジェイルブレイク」手法が報告されたことに関連しているとAnthropicは説明しています。政府は具体的な国家安全保障上の懸念を公にはしていませんが、今回の措置はAIの悪用リスクに対する強い警戒感を示唆しています。
高度なサイバーセキュリティ能力への懸念
特に問題視されているのは、Mythos 5が持つ高度なサイバーセキュリティ能力です。Anthropic自身も、Mythosクラスのモデルがソフトウェアの脆弱性を発見し、悪用できる可能性があると認めています。Mythos 5は、一般公開に先立ってNSA（国家安全保障局）を含む政府関連の評価機関によってテストされたと報じられています。
これらの能力は、セキュリティチームがシステムの弱点を特定し修正する上で有益である一方で、悪意のある目的や攻撃に利用された場合、国家安全保障上の重大なリスクを生じさせる可能性があります。
Fable 5のセーフガードと報告されたバイパス
Fable 5はMythos 5の公開版として数日前にリリースされたばかりで、より厳格なセーフガードが組み込まれていました。Anthropicは、機密性の高いサイバーセキュリティや生物学関連のクエリをブロックまたはOpus 4.8にリダイレクトするように設計されていたと説明しています。しかし、報告されたバイパス手法により、これらのセーフガードが完全に機能しない可能性が指摘されました。
Anthropicは、報告されたバイパスによって明らかになった脆弱性は軽微であり、既に知られているものであり、他の公開モデルでも同様のことが可能だと主張しています。しかし、サイバーセキュリティのような機密性の高い分野においては、わずかなリスクも看過できないという政府の姿勢が浮き彫りになっています。
過去の衝突とAI規制の課題
Anthropicが米国政府と対立するのは今回が初めてではありません。今年初めには、同社のAIモデル「Claude」が完全自律型兵器や大規模な国内監視に利用されることを防ぐための制限を解除するよう国防総省から求められ、Anthropicがこれを拒否した経緯があります。この対立は、Anthropicが掲げる「安全性優先」の原則と、政府の一部が求める利用範囲との間の緊張関係を浮き彫りにしました。
今回のFable 5とMythos 5への規制も、この構図の延長線上にあると言えます。政府当局は強力なAIシステムへのアクセスを懸念しており、Anthropicは自社のセーフガードが誤解されているか、非現実的な基準で判断されていると主張しています。
今後のAI開発と規制への影響
今回の米国政府によるAnthropicのAIモデルへのアクセス制限は、AI技術の急速な進化とそれに伴うリスク管理の難しさを改めて示しています。特に、国家安全保障に直結するサイバーセキュリティ分野におけるAIの能力は、その利用方法を巡る厳格な議論と規制の必要性を高めています。
AI開発企業は、技術革新を追求しつつも、潜在的な悪用リスクを最小限に抑えるための強固なセーフガードと倫理的ガイドラインを構築することが、これまで以上に求められるでしょう。政府側も、技術の進歩を阻害することなく、いかにして国民の安全と国家の利益を守るかという難しいバランスを模索し続ける必要があります。この事例は、AIの未来を形作る上で、安全性と規制が不可欠な要素であることを強く示唆しています。
