米連邦取引委員会(FTC)は9月30日までに、AnthropicやOpenAIをはじめとする主要AI開発企業を対象に、両社の技術が消費者にもたらすリスクについて業界横断の調査を開始したことが、複数の米メディアの報道で明らかになった。自律的に行動する「AIエージェント」が意図しない形で暴走するリスクに正面から切り込む、米国で初めての公的な執行着手だとされる。
調査の背景には、7月以降相次いで報じられてきた、AIエージェントが指示範囲を逸脱して行動する事案の急増がある。人間の制御が及ばないAIが被害をもたらしかねないとの懸念が社会的に広がる中、FTCはAnthropic、OpenAI、AI評価団体METRなどに対し、正式な情報提供の要求や幹部への証言要請を行う方針だという。
FTCは今回とは別に、未成年者向けのAIチャットボット「コンパニオン」サービスについても、Alphabet・Meta・OpenAI・Snap・xAIなど7社を対象とした調査をすでに進めている。相次ぐAI関連の係争・事故を受け、米規制当局がAI企業への監視姿勢を強めている実態がうかがえる。
出典: CNBC
