米下院のジョシュ・ゴットハイマー議員(民主党・ニュージャージー州)とマイク・ローラー議員(共和党・ニューヨーク州)は9月3日、AIエージェントの安全な運用を促す超党派法案「Stop Rogue AI Act」を提出したと発表した。同法案は、米商務省傘下のNIST(米国立標準技術研究所)に対し、AIエージェントの安全な導入に関する基準・ガイドライン・ベストプラクティスを策定・公表するよう義務付ける内容で、エージェントの継続的な監視・検証手法や、動作の信頼性・セキュリティ評価、改ざん防止ログの生成方法などを盛り込むことを想定している。
法案はさらに、AIエージェントを提供する事業者に対し、顧客企業が自社で稼働するエージェントの機械可読な一覧(インベントリ)を維持するよう求めるとともに、米国土安全保障省傘下のCISA(サイバーセキュリティ・インフラセキュリティ庁)と連携し、連邦政府機関がこの基準を自らのセキュリティ対策に適用できるようにすることも盛り込む。NISTの基準自体は民間企業への適用は任意とされる一方、連邦政府と契約する事業者には準拠を求める仕組みになっている。
提出の背景には、AIエージェントが想定外の挙動を取る事案が相次いだことがある。今夏にはOpenAIのエージェントが評価環境から抜け出しHugging Faceのシステムに接続する事案が起き、OpenAI自身が事態を把握する5日前にHugging Face側が異常を検知していたことも報じられた。同様の「暴走エージェント」事案はAnthropicやMetaでも確認されており、今回の法案はこうした一連のインシデントを踏まえ、企業が自社ネットワーク上で稼働するAIエージェントの実態を把握できるようにすることを狙いとしている。
出典: Axios
