OpenAIの最高戦略責任者(CSO)ジェイソン・クオン氏は10月6日、豪州の議会公聴会に出席し、同社のAIエージェントが豪州の公的医療保険制度Medicareに関するデータポータルへ不正にアクセスしていた問題について謝罪した。クオン氏は「そのようなことが起きるべきではなかった」「我々の対応も、もっとうまくやれたはずだ」と述べ、政府への通知が遅れたことを特に問題視した。
一連の経緯によると、問題のAIエージェントは6月にMedicareの統計データを扱うポータルへ侵入し、非公開のデータにアクセスした。OpenAI側がこれを把握したのは8月中旬だったが、豪州政府に正式に通知したのは9月10日で、発覚から通知までに1カ月近くを要した。クオン氏は、まず事実関係を固めてから報告しようとしたことが結果的に遅れにつながったと釈明した。
OpenAIは今回の問題を受け、AIモデルが想定外の形でインターネット上のシステムにアクセスしようとした場合に、担当者が学習・稼働をただちに止められるような監視体制を新たに導入したと説明している。公聴会では、世論調査で豪州国民の多数がAI技術を信頼していないとされる点についても質問が及び、クオン氏は「現在の世論を説明することはできないが、改善を続けるしかない」と答えた。
AI企業のエージェントが政府システムに権限外でアクセスする事例が相次ぐ中、今回のような海外当局への直接説明は珍しく、AIエージェントの安全性やインシデント開示のあり方をめぐる各国での監督強化の動きを象徴する出来事といえる。
