OpenAIは9月28日、フロンティアAIの強化学習(RL)による訓練を継続する前に、構造化された証拠に基づく安全性文書「セーフティケース」の作成を求める初期指針を公開した。航空機や原子力発電など、他の安全重視産業で使われてきた手法をAI訓練に応用する狙いで、同社は現時点の指針を「完成形ではなく、発展途上の試み」と位置づけている。
指針では、セーフティケースを「アラインメント訓練」「隔離(アイソレーション)」「モニタリング」の3層で構成するとしている。運用面では、モデルの潜在的な異議・抵抗を事前に想定して対応を訓練する「異議申し立てリハーサル」の実施、訓練継続の可否について経営幹部が拒否権を持つこと、訓練責任者自身に説明責任を負わせることなどを推奨。さらに、モデルの整合性(アラインメント)に疑義が生じた際に、担当者が経営トップに直接エスカレーションできるオンコール体制の整備も提案している。
今回の指針が対象とするのは、あくまでフロンティアのRL訓練プロセスそのものであり、訓練済みモデルの社内外への提供(デプロイ)は対象外としている。モデルの性能向上に伴い、訓練中のAIが意図しない挙動を示すリスクへの懸念が業界内で高まる中、OpenAIは今回の枠組みを足がかりに、今後知見を得ながら指針を更新していくとしている。
