Reutersが10月13日に報じたところによると、AnthropicとOpenAIの両社は、自社内に常駐して安全性やリスクを調査する「エンベデッド・エバリュエーター(内部常駐型の外部評価者)」が、調査で得た知見を外部に公表する際の内容について、強い管理権限を持とうとしていたことが、事情に詳しい複数の関係者の話から明らかになった。両社とも、評価担当者が業務の過程で知り得た企業秘密に相当する情報を競合他社に持ち出すことを懸念しているとみられる。
報道によれば、対策として、自社の担当者が評価チームの作業に同席する案や、ある評価機関の担当者が同時に競合するAIラボでも評価業務を行うことを制限する案などが検討されていた。一方、Anthropicのダリオ・アモデイCEOは9月、評価機関は「編集上の管理を受けずに」主要な知見を公表すべきだと発言しており、OpenAIも評価者の「編集上の独立性」を支持する立場を示していた経緯があるため、実際の交渉内容との食い違いが指摘されている。Reutersの取材に対し、両社とも10月5日時点では評価者の公表内容に厳格な管理を求める姿勢だったが、10月8日までにはAnthropicと一部評価機関との交渉に進展が見られたという。
両社はそれぞれ説明を寄せている。Anthropicは、これまで協業してきた評価機関については各機関が独自の手法や公表内容を決められるとした一方、新規に契約する評価機関については、自社モデルの扱いに慣れるまでの間、報告書を事前に確認し承認する権利を保持しているとした。OpenAIは、報告書全体を承認する仕組みにはしておらず、通常は機密情報に該当する箇所のみを削除し、大幅な削除があった場合は評価者がその旨を明示できるようにしていると説明した。
