AI開発を手がけるAnthropicは、発表したばかりの最新AIモデル「Mythos 5」と「Fable 5」の提供を急遽停止しました。この措置は、米商務省から両モデルに輸出規制を課す指示が下されたことを受けたもので、米国外での利用が制限されることになります。今回の突然の停止は、最先端AI技術の開発と国家安全保障、そして政府による規制との間の緊張関係を改めて浮き彫りにしています。
Anthropic、最新AIモデルの緊急停止を決定
Anthropicは金曜日の夜、数日前にローンチしたばかりのAIモデル「Mythos 5」と「Fable 5」へのアクセスを全面的に遮断しました。この決定は、米商務省から同社に対し、これらの新モデルを輸出管理の対象とするよう求める指示が届いた直後に行われたものです。
同社は、政府からの命令に即座に従う唯一の方法として、全ての顧客に対して「Fable 5」と「Mythos 5」を停止せざるを得なかったと説明しています。なお、Anthropicが提供する他のAIモデルについては、今回の規制の影響は受けていません。
国家安全保障上の懸念と「ジェイルブレイク」問題
今回のモデル停止の背景には、米政府が抱く国家安全保障上の強い懸念があります。Axiosの報道によると、政府関係者は「Fable 5」において、サイバーセキュリティ、化学、生物学といった機密性の高い分野に関するプロンプトをブロックする広範な分類ベースの保護機能を回避する「ジェイルブレイク」（セキュリティ回避）が報告されたことを懸念しているとされています。
米政権は、この種の脅威に対して「国家安全保障機構を強化」するための時間を稼ぐため、モデルのリリース一時停止をAnthropicに要請したと報じられています。Axiosの情報源は、この強化が「数週間以内」に完了する可能性を示唆しています。
Anthropic側の反論と業界への影響
Anthropicは、政府から提供されたのは「潜在的な狭い範囲の、普遍的ではないジェイルブレイクに関する口頭での証拠」に過ぎないと説明しています。具体的には、「Fable 5」が特定のコードベースのソフトウェア脆弱性をレビューする際に使用されたジェイルブレイクの証拠のみを確認しており、その脆弱性も「軽微で比較的単純なもの」であったと主張しています。
さらに同社は、GPT-5.5のような他の公開されているモデルも同様の能力を持っていると指摘し、今回のジェイルブレイクが商業モデルの停止を正当化するほどの重大性はないとの見解を示しています。「もしこの基準が業界全体に適用されれば、フロンティアAIモデルを提供する全てのプロバイダーにとって、新たなモデルの展開が実質的に停止してしまうだろう」とAnthropicは述べています。同社は顧客に対し、今回の「混乱」は「誤解」の結果であると謝罪し、24時間以内に詳細を公表する意向を示しました。
AI規制を巡る米政権の動向
今回のAnthropicのモデル停止は、トランプ大統領がAIモデルメーカーに対し、自主的な政府によるセキュリティテストを受けるよう促す大統領令に署名したばかりのタイミングで発生しました。この大統領令は、当初予定されていた署名式が政権内部での意見対立が報じられ、急遽延期された経緯があります。
一連の動きは、AI技術の急速な発展が国家安全保障や倫理的側面にもたらす潜在的なリスクに対し、米政府が警戒を強めている現状を明確に示しています。特に、悪用される可能性のあるAIの能力をどのように管理し、規制していくかという課題が、今後ますます重要になると考えられます。
まとめ
Anthropicが最新AIモデルの提供を停止した今回の事態は、AI技術の商業展開と政府による規制、そして国家安全保障という複雑な問題が絡み合う現代の課題を象徴しています。米政府がAIの悪用リスクを強く懸念し、その対策を急ぐ中で、AI開発企業は技術革新のスピードと安全保障上の要請との間でバランスを取る必要に迫られています。
Anthropicは今回の措置を「誤解」の結果と捉えていますが、政府側はジェイルブレイクの可能性を深刻な脅威と見なしているようです。今後のAIモデルの開発・展開においては、セキュリティと信頼性の確保がこれまで以上に重視され、政府との連携や透明性の確保が不可欠となるでしょう。今回の件が、今後のAI規制のあり方や、業界全体の開発プロセスにどのような影響を与えるのか、引き続き注視が必要です。
情報元：arstechnica.com
