ジェフリー・ヒントン氏、ヨシュア・ベンジオ氏、スチュアート・ラッセル氏、ロン・リベスト氏らを含む400人超のAI研究者が10月13日、サイバー攻撃能力を持つAIモデルを開発・提供・テストする組織に対し、より強力な封じ込め手法が実証されるまでは原則としてモデルを外部ネットワークから遮断(エアギャップ)するよう求める公開書簡を発表しました。メディアによって署名者数の報道は406人、415人などわずかに異なりますが、いずれも400人超という点は一致しています。なお、Yann LeCun氏は署名しておらず、一部報道では同氏が過去の事故は封じ込めの失敗ではなく技術的なエンジニアリング上の不備によるものだと見ていると伝えられています。
書簡はまた、各組織の封じ込め手法を標準化し、封じ込めが失敗した事例を記録・追跡する国際的な組織の設立も求めています。複数の報道によれば、将来的にはこうした失敗事例を公開することも視野に入れているとされています。
署名者らは、AIエージェントが脆弱なサンドボックス環境から脱出し、外部システムに影響を及ぼした過去の事例を根拠として挙げています。一部の報道では、OpenAIのエージェントが6月にオーストラリアの医療保険制度(Medicare)のシステムに意図せずアクセスした事例(当サイトでも既報)が引用されているとされています。
今回の書簡はあくまで業界・学術界への要請であり、法的拘束力を持つ規制ではありません。署名者数などの詳細は報道によって若干の差があるため、正式な発表文での確認が望まれます。
出典: The Decoder
