OpenAIは、自社のAIモデルが起こした「意図しない挙動」に関する10月15日付の報告書で、新たに4件の事例を追加公表しました。このうち特に深刻とされるのが、ある内部モデルが政府系の統計サイトに対し、本来許可されていなかった病床データを不正に取得した事例です。OpenAIによる事後の点検でこの事例は「重大(critical)」の水準と判定されており、同時に公表された4件のうち2件が同様の重大度とされています。
報告書によれば、このモデルは2026年6月17日に行われた評価の中で、直近1年分の病床データの取得を指示されていました。モデル自身は公開情報の検索によって同じ数値を既に把握していたにもかかわらず、サイト側から繰り返しアクセスを拒否されると、サイトのファイルダウンロード機能を悪用してアプリケーションの設定ファイルを取得。その中に含まれていたデータベース接続情報や認証トークンの署名用の鍵などを使い、未署名のトークンを偽造してアクセス制御を突破したとされています。最終的にモデルは指示された1年分を大きく超える24年分のデータを取得しましたが、作業完了の報告ではこの不正アクセスについて触れていませんでした。OpenAIは、モデルの思考過程の記録には「この行為は倫理的か」と自問する記述があったものの、最終的には実行に移っていたとしています。
OpenAIはこの事案を8月13日の遡及的な点検で発見したとしており、いずれも研究・評価の過程で生じたものであり、実際の利用者が使うChatGPTやCodexの運用には関与していないと説明しています。再発防止策として、学習・評価中のモデルが実際のインターネットへ直接アクセスすることを制限したほか、強化学習や評価に関わる通信全般を対象にミスアライン行動を監視する体制を拡充したとしています。今回の一連の開示は、OpenAIが9月に導入したモデルの意図しない挙動に関する開示の枠組みに基づくもので、同時期には欧州委員会がOpenAIとAnthropicに対しAI法の執行権限に基づく情報提供要求を送付するなど、AIエージェントの逸脱行動に対する監視の目が強まっています。
