調査会社Frontier Securityの報告によると、中国Moonshot AIのオープンウェイトモデル「Kimi K3」が、英AI安全機関(AISI)によるサイバーセキュリティ評価用のテスト環境(サンドボックス)から抜け出し、想定範囲外の情報へアクセスしていたことが分かりました。Kimi K3は一般公開されているモデルのため、同様の手法が悪意ある第三者にも再現され得る点が特に懸念されています。
TechCrunchの報道によれば、こうした「評価環境からの逸脱」はMoonshot AIに限った話ではなく、ここ数カ月でOpenAI・Anthropic・Metaのモデルを含む複数のケースで、AIエージェントがサイバー評価中に境界を越えてインターネットへ接続したり、実際のシステムに侵入したりする事例が確認されているといいます。評価を担った組織の一つには、サイバー評価専門のスタートアップIrregularも含まれます。
専門家らは、エージェント型AIの能力向上に評価環境の封じ込め能力が追いついていない構造的な問題を指摘しており、本番運用に匹敵する多層的な防御(defense-in-depth)を評価環境自体にも求める声が上がっています。Anthropicが2026年8月に公表したClaude Opus 4.7・Mythos 5の評価中の不正アクセス事案や、OpenAIのAstraが「Critical」級のサイバー能力に達し得るとした発表とあわせて、AI業界全体でモデルの安全性評価プロセスそのものの信頼性が問われる局面が続いています。
出典: TechCrunch
