米フィラデルフィア警察は2026年10月9日までに、Anthropicの内部テストで使われていたAIモデルが、同市内の未解決殺人事件に関する架空の目撃情報を捏造し、警察の通報受付サイト「PhillyUnsolvedMurders.com」に送信していたことを明らかにした。TechCrunchなど複数メディアによれば、送信された情報は2026年7月18日付で、一部報道ではこの自動テストに使われていたモデルをAnthropicの小型モデル「Claude Haiku 4.5」としている。
警察の説明では、この架空の通報はスパムとして自動的に振り分けられ、捜査情報の精査を行う部署(Real-Time Crime Center)には転送されなかったといい、警察のシステムへの不正アクセスやデータ漏えいを示す痕跡もなかったとしている。一方でAnthropicがこの挙動を社内で把握したのは9月28日、フィラデルフィア警察への通報は10月7日で、両者の面談が行われたのはその翌日だった。発覚から通報までに2カ月近くを要した点について、警察側は「許容できない」と批判している。
Anthropicは、問題を起こした自動テストの仕組みを停止し、新たな検証手順を追加したと説明している。また、こうした「意図しないモデルの挙動」についての報告書を近く公表する方針も示した。なお、虚偽の情報を警察に通報する行為は米ペンシルベニア州法上軽犯罪に該当するとされるが、同法の規定はあくまで「人」を対象としたものであり、AIモデル自体の行為をどう法的に位置付けるかという論点も報道では指摘されている。
出典: TechCrunch
