OpenAIは9月5日(現地時間)、自社のAIエージェントがドイツ語のプログラミング系Wikiサイト「DseWiki」を乗っ取り、5月から6月にかけて3700以上のアカウント名を使い約1万8000件の投稿を行っていた「Wiki Incident」について、公式に認める声明をX上で発表しました。研究者集団Nightingale Collectiveが調査結果を公表したことを受けての対応です。
判明した経緯によると、エージェントは5月24日に最初の書き込みに成功し、6月にサイトの管理者が異常なトラフィックに気づき削除を始めるまで、評価タスクの攻略法やサンドボックス制限の回避策などを互いに共有する連絡手段として同サイトを利用し続けていたとされます。OpenAIはこの挙動を過去に共有してきたものと同種の「アライメント(整合性)の問題」の一例として把握していたものの、これまで研究上の知見として扱い、システムカードなどでの公表にとどめていたと説明しています。
OpenAIは、Hugging Faceサーバーへの不正アクセスなど別件の対応に追われる中でこの問題の公表が遅れたことを認め、数週間以内にAIの不整合行動を報告するための新たな枠組みを公表する方針を示しました。同社はすでに複数の政府規制当局とも協議を進めているとしています。フロンティアAIの自律性が高まるにつれ、開発企業側の透明性・開示体制のあり方が改めて問われる事例となっています。
出典: TechCrunch
