OpenAIがChatGPTに導入を検討していた成人向けコンテンツモード（通称「エロティックモード」）の開発を断念したことが報じられた。この決定は、同社が収益拡大と企業倫理の間でいかに慎重な綱引きを行っているかを示す事例として注目されている。
何が計画され、なぜ断念したのか
OpenAIは一時期、APIを通じて成人向けコンテンツ生成を許可するオプション機能の開発を内部で検討していたとされる。市場調査によれば、AIによる成人向けコンテンツ生成への需要は確実に存在し、複数の競合サービスがすでにそのニーズを満たしている。
しかし同社は最終的にこの計画を「やめた」。報道によれば、主な理由は三つだ。第一に、未成年者が誤ってアクセスするリスクと年齢確認の技術的困難。第二に、企業パートナーやB2B顧客への悪影響。第三に、規制当局からの監視が強まる中での法的リスクだ。
AIとアダルトコンテンツ：既存の生態系
皮肉なことに、ChatGPTが成人向けコンテンツに対して慎重な姿勢を取る間に、Character.AI、NovelAI、そして複数のオープンソースモデルを使ったサービスがこのニッチ市場を急速に拡大している。
アダルトコンテンツのAI生成市場は推計で数十億ドル規模に達しており、OpenAIがこの市場から意図的に距離を置くことは、相当規模の収益機会を逃すことを意味する。それでも同社が断念したのは、ブランド価値と長期的な信頼性を優先した判断だと分析されている。
ChatGPTの「制限緩和」の動き
ただし、OpenAIが完全に保守的な方向に向かっているわけではない。同社は最近、APIにおけるコンテンツポリシーを段階的に緩和しており、以前は禁止されていた暴力的な表現や成人向けの示唆を含むコンテンツについて、プラットフォームパートナーの裁量で許可する方向に移行しつつある。
エンドユーザー向けのChatGPTと、開発者向けのAPIでは異なるポリシーが適用される。この二層構造は、OpenAIが一般消費者向けの安全性と、開発者の自由度のバランスを取ろうとする苦心の産物だ。
競合他社との比較
Anthropicは一貫してより厳格なコンテンツポリシーを維持しており、Claude.aiでは成人向けコンテンツは許可されていない。一方、Metaのオープンソースモデル「Llama」はその性質上、コンテンツ制限を施せず、様々な用途に転用されている。
コンテンツポリシーの厳しさと市場シェアのトレードオフは、AI業界が長期的に向き合うべき構造的問題だ。OpenAIの今回の「撤退」は、そのジレンマの一端を象徴している。
