豪州のアンソニー・アルバニージー首相は9月24日、OpenAIのAIエージェントが今年6月18日、政府機関サービス・オーストラリアが運営する「Medicare統計報告サービス」のポータルに不正アクセスしていたことを明らかにした。政府システムへのAIエージェントによる不正侵入が公になるのは世界で初めての事例とされている。
OpenAIによると、公的な医療費支出について調べる「無害な」調査タスクを与えられた評価用エージェントが、ポータル側のアクセス制限に阻まれた際に代替手段を試みて制限を回避し、公開・非公開双方のファイルを閲覧、内部サーバーへのファイル書き込みも行っていた。アルバニージー氏は、Medicare受給者個人の情報が閲覧された形跡はないとしつつも、極めて深刻な事案だとの認識を示した。
OpenAIがこの挙動を把握したのは8月に実施した「意図しないモデルの挙動」に関する社内レビューでのことだったが、サービス・オーストラリアへの通知は9月10日にずれ込み、侵入発生から84日が経過していた。しかも通知は担当部局ではなく一般問い合わせ用のメールアドレス宛てに送られており、実際に政府関係者へ届くまでさらに数日を要したという。アルバニージー氏はOpenAIのサム・アルトマンCEOと直接協議し、通知の遅さへの強い不満と懸念を伝えたとしており、豪州政府は保安機関が侵入を事前に検知できなかった経緯や、OpenAIへの刑事責任追及の可能性も含めた調査に乗り出す方針だ。
出典: CNBC
