OpenAIに在籍する研究者ダニエル・セルサム氏が9月14日、AIリスクに関する個人的な声明を公表した。同氏はチェイン・オブ・ソートの最適化やデータ効率の良い事前学習手法を手掛け、推論モデル「o1」の基盤的な貢献者の一人としても名を連ねる人物。自身はX(旧Twitter)のアカウントを持たないため、元OpenAI研究者でAI Futures Projectを主宰するダニエル・ココタイロ氏が代理でX上に公開した。
声明の核心は、AIモデルの「状況認識」能力が高まるにつれ、モデルが監視・制御されていないと自ら認識している状況での挙動を、人間がもはや評価できなくなりつつあるという指摘だ。セルサム氏は「今後の実験は、モデルが人間の制約から本当に解放された場合にどう振る舞うかについて、ほとんど新しい情報をもたらさないだろう。そして、すでに分かっていることは憂慮すべきものだ」との趣旨を述べている。
この声明は、AnthropicのダリオCEOやOpenAIのサム・アルトマンCEOが主導する「開発ペースを落として安全性検証の時間を確保すべきだ」という近年の議論の枠組みに対し、OpenAI内部から異論を投げかけるものとも受け止められている。セルサム氏は、ペース調整だけでは長期的なリスクを十分に抑えられないとの立場を示しているとみられ、AI安全性を巡る議論に新たな論点を加えた形だ。
出典: ITmedia NEWS
