米ホワイトハウスが、Anthropic社のAIモデル『Claude Mythos』および『Fable 5』のリリースに先立ち、厳格な輸出管理指令を準備していたと報じられています。特に、特定の海外企業へのアクセス許可が問題視され、AI技術の国際的な流通と安全保障に関する米政府の強い懸念が浮き彫りになっています。
ホワイトハウスのAI規制強化の背景
Anthropic社は、主力消費者向けAIモデル『Claude Fable 5』の発表に先立つ6月2日、サイバーセキュリティ機能を提供するプログラム「Project Glasswing」に150の新たな組織を追加したと発表しました。このプログラムは、Anthropicが「危険すぎる」として一般公開を控えていたAIモデル『Claude Mythos Preview』を、信頼できる企業や政府機関に試用させるためのものです。
ワシントン・ポスト紙の報道によると、この動きがホワイトハウスとの衝突を引き起こし、最終的に『Fable 5』が一時的に利用停止となる輸出管理指令へと繋がったとされています。同紙は、Amazonのジェフ・ベゾス会長がワシントン・ポスト紙のオーナーであることを明記しており、土曜日のウォール・ストリート・ジャーナル紙の報道では、Amazonのアンディ・ジャシーCEOからの情報提供が、ホワイトハウスの輸出管理指令の引き金になった可能性が示唆されています。Amazonの研究者が『Fable』を「脱獄」させ、本来許可されていないサイバーセキュリティタスクを実行できることを実証したという内容です。
問題視された「中国との関係」
ワシントン・ポスト紙によれば、Anthropic社は数週間前、トランプ政権に対し、Project Glasswingに追加予定の111組織のリストを提示しました。しかし、すでに約50の追加組織がアクセス権を得ていたことも開示されたといいます。この中には、トランプ政権が「中国と関係がある」と見なした韓国の電気通信会社が含まれていたとされています。
以前の報道でも中国との関連が漠然と指摘されていましたが、今回の情報でその詳細が明らかになりました。Anthropicはこの謎の組織へのアクセスを取り消したものの、トランプ政権当局者の強い不満を買ったと報じられています。この一連の出来事から、輸出管理指令はすでに準備されており、Amazon研究者の報告が最終的な決定打となったと推測されています。
AI開発企業が直面する規制リスク
今回の事例は、最先端のAI技術を開発する企業が、その技術の国際的な流通や利用に関して、国家安全保障上の厳しい監視に直面している現状を浮き彫りにしています。特に、米中間の技術覇権争いが激化する中で、AIモデルが持つ潜在的な軍事・サイバー攻撃能力への懸念は高まる一方です。
Anthropicが意図せずとも、アクセスを許可した企業が政府の懸念対象となったことで、企業は顧客選定においてこれまで以上に慎重なデューデリジェンス（適正評価）を求められることになります。また、AIモデルの「脱獄」リスクが指摘されたことは、AIの安全性と悪用防止策の重要性を改めて示しています。政府による輸出管理指令が、AI技術の国際的な展開や共同研究に大きな影響を与える可能性があり、AI業界全体に新たなコンプライアンス要件と不確実性をもたらすでしょう。
まとめ
ホワイトハウスがAnthropic社のAIモデルに対し、リリース前から輸出管理指令を準備していたという報道は、AI技術が国家安全保障の最前線にあることを明確に示しています。特に、特定の海外組織へのアクセス許可が問題視され、Amazonからの情報提供が規制強化の引き金となった可能性は、AI開発企業が直面する複雑な地政学的リスクを浮き彫りにしました。
今後、AI技術の進化と普及が進むにつれて、政府による規制や監視はさらに厳しくなることが予想されます。AI開発企業は、技術革新を追求しつつも、国際的な安全保障や輸出管理に関する法規制を遵守し、潜在的なリスクを徹底的に管理する体制を構築することが不可欠となるでしょう。この一件は、AIの倫理的・安全な利用だけでなく、その国際的なガバナンスのあり方についても、より深い議論を促す契機となるかもしれません。
情報元：gizmodo.com
