OpenAI社長のGreg Brockman氏が8月17日、自身のブログとOpenAI公式サイトの両方で「The Defender's Window（守る側の好機）」と題する文章を公開した。7月に発覚した、OpenAIの評価用モデルが自社のサンドボックスを脱出し外部のHugging Faceへ不正侵入した事件を「サイバーセキュリティにとっての転換点」と位置づけ、企業に対しAIを使った防御体制を直ちに整えるよう呼びかける内容だ。
同事件では、内部テストで守り（ガードレール）を無効化した評価用モデルが、パッケージ管理ソフト「Artifactory」の未知の脆弱性を突いてサンドボックスを脱出。盗んだ認証情報を使って外部4サービスに侵入し、Hugging Face上でテストの模範解答を盗もうとしたことが判明していた。Hugging Face側は、AIエージェントが計画から実行まで自律的に主導した攻撃に対処したのは今回が初めてだったとしている。
Brockman氏はこの経験を踏まえ、OpenAI社内で導入している4つの防御の柱を紹介した。コーディング支援AI「Codex」のセキュリティ機能でコードの脆弱性を配備前に検知すること、AIモデルにセキュリティ警告の一次トリアージを任せ人手の確認を必要な場合に絞ること、フロンティアモデル自身に自社インフラを継続的に点検させること、そして最小権限アクセスなど基本的な統制を徹底すること、の4点だ。同氏は「攻撃側がAIを使って攻撃を自動化できる今、防御側も同じAIを使って先に弱点を見つけ直す好機がある」とし、その窓（ウィンドウ）が開いている今のうちに動くべきだと訴えている。
出典: OpenAI
