OpenAIは8月18日、13〜17歳の利用者向けに安全機能を強化した「ChatGPT for Teens」の提供を開始したと発表した。無料・有料の個人向けプランを対象に対象アカウントへ順次展開しており、オーストラリアでの完全展開は9月8日を予定しているという。利用者が自ら切り替える必要はなく、OpenAIが開発した年齢推定モデルがアカウントの利用時間帯や利用期間、話題の傾向といった行動・アカウント情報から18歳未満の可能性が高いと判定すると、自動的にティーン向け体験へ切り替わる仕組みになっている。
ティーン向け体験では、自殺・自傷行為や暴力、摂食障害、危険行為、露骨な性的・グロテスクな内容など「発達段階上不適切」とされる話題への応答を制限し、自傷や希死念慮をうかがわせる対話には介入する設計とした。また、恋愛的な言葉遣いや親密な呼びかけをモデルが使うことを禁止し、AIが感情や意識を持つかのように振る舞ってユーザーが情緒的に依存しないよう、より強く指示しているという。18歳以上なのに誤ってティーン向け体験に振り分けられた場合は、本人確認サービスPersonaを使った自撮りベースの年齢確認で通常のアカウントに戻せる。
保護者向けには、メール招待で自分のアカウントとティーンのアカウントを連携できる機能を新設。ティーン向けのモデル挙動ルールをガイドしたり、記憶（メモリー）や会話履歴といった機能の無効化、利用不可時間帯（ブラックアウト時間）の設定、深刻な精神的苦痛の兆候をシステムが検知した際の通知受け取りなどを設定できるようにした。
背景には、AIチャットボットと未成年利用者を巡る安全性への懸念の高まりがある。米国では自殺した10代少年の遺族がOpenAIを提訴した訴訟なども注目を集めており、AI各社に未成年保護対策の強化を求める圧力が強まっていた。今回の年齢推定機能はEU域内では規制対応のため数週間遅れて展開される予定で、グローバル一律ではなく地域ごとに段階的に整備が進む見通しだ。
