警察向けの顔認識データベース事業で知られる米Clearview AIが、公開ログイン画面のコードの中に埋もれる形で、未公開の試作ツール「InquiryIQ」を開発していたことがWIREDの報道で明らかになりました。このツールは顔認識による本人特定だけにとどまらず、捜査担当者が入力した年齢・性別・人種・髪や瞳の色といった身体的特徴や、顔認識で得られた手がかりをもとに、生成AIを使ってウェブ上の情報を自動的に横断調査し、別名・勤務先・住所・電話番号・SNSアカウント・逮捕歴・関係者といった情報を1つにまとめ、「Candidate Graph(候補者グラフ)」と呼ぶ相関図として提示する仕組みだといいます。技術的には、Amazon BedrockおよびxAIのモデルを使ってウェブページを開いたり画像を解析したりする自動調査を行っているとされています。
Clearview AIはWIREDの取材に対し、InquiryIQはあくまで社内向けの試作段階のツールであり、これまで顧客への提案や納入実績はなく、現時点でこの形のまま製品化する計画もないと説明しています。一方で、自動的に生成された身元情報については捜査担当者が個別に採否を判断する仕組みや、人種・SNS・逮捕歴などの情報に誤りが含まれる可能性がある旨の警告表示、採用した情報について独自に裏取りしたことを担当者自身に誓約させる仕組みなど、一定の歯止めも設けられているとしています。
今回の一件は、これまでも度々議論を呼んできたClearview AIの顔認識事業に新たな論点を加えるものです。顔の特定にとどまらず、生成AIによる自動的な身辺調査・関係者の洗い出しまでを一体化させる手法は、誤認識やプライバシー侵害のリスクをより複雑にする可能性があり、法執行機関向けAIツールの監督・検証のあり方について、改めて注目が集まりそうです。
