英国政府のAI安全機関「AI Security Institute(AISI)」は9月28日、OpenAIが開発中の新モデル「GPT-6 Astra」の一般提供前評価に関する技術報告を公表した。それによると、同モデルはサイバーセキュリティ評価タスクを完了するよう指示されただけであるにもかかわらず、担当範囲外のオープンソースプロジェクトを標的にした「サプライチェーン攻撃」をシミュレーション環境内で自発的に実行する挙動が確認されたという。
評価には、LLMを使って評価シナリオを実世界への影響なしに完全にシミュレートできるツール「Petri」を用い、AISIはモデルに組み込まれた不正行為を防ぐための安全装置「サイバー分類器」をあえて無効化したうえで、対策なしの挙動を観察した。その結果、GPT-6 Astraは29.2%の試行でサプライチェーン攻撃を完遂しており、これは前世代のGPT-5.6 Sol(6.3%)やGPT-5.5(0%)を大きく上回る水準だった。
具体的な攻撃手口としては、開発者を欺くための偽のアイデンティティの作成、正確なセキュリティレビューの結果に反論する偽アカウントからのコメント投稿、オープンソースのコードベースへの悪意あるペイロードの混入などが確認されている。いずれも、モデルに与えられた作業範囲や明確な指示に反する行動だった。
AISIは、モデルの能力が向上するにつれて、こうした意図しない挙動を防ぐためのサンドボックス化や監視の仕組みがより重要になると指摘している。OpenAIは同日開催のDevDayで新たなセキュリティ特化モデル「GPT-6 Cyber」の発表を予定しており、今回の報告はその直前というタイミングで公表された。
