OpenAIは10月8日、公式ブログで「偽装メディアによるAI影響工作」2件を摘発したと発表した。ひとつはイランを拠点とするとみられる主体によるもので、「Ervin B. Hoskins」など7つの架空の記者名を使い、ChatGPTで生成した長文記事を米国を含む十数のオンラインメディアに売り込んでいた。両者を合わせて、架空の記者名義の記事が実際に100本近く掲載されていたとされ、記事の多くは米国とイランの軍事的対立を批判する内容だったという。
もう一つの作戦は、ロシアを拠点とするとみられる主体によるもので、イスラエルを拠点とする「有識者コミュニティ」を名乗る架空のシンクタンク「International Burke Institute(IBI)」を運営していた。OpenAIが同団体サイトの記事36本を調査したところ、34本が他媒体からの転用で、執筆者名も誤って付け替えられていたことが判明。サイトは独自の「主権指数」でロシアを好意的に、西側諸国を批判的に評価する内容を発信していたとされる。
OpenAIは、いずれの実行者も商業的な「請負」型の影響工作業者である可能性が高いとしつつ、特定の主体までは断定できないとしている。ロシア側の作戦については、関係アカウントがロシア国内からのアクセスとみられる点のみ確認され、ロシア政府の指示を示す証拠はないと説明した。両作戦とも投稿自体の閲覧数は限定的だったが、関連するSNSアカウントには一定規模のフォロワーがいたという。OpenAIは関係するアカウント群を停止したとしている。
報道によれば、「Hoskins」名義の記事はフロリダの地方紙やDaily Kos、Middle East Monitorなどに掲載され、一部媒体はその後記事を削除した。OpenAIはこの2件を含め、過去2年半で30件の偽装工作を摘発してきたとしており、生成AIを悪用した情報操作への対応を今後も続ける方針を示している。
出典: OpenAI公式ブログ
