AI が人々の感情生活に徐々に深く関わる中、ChatGPT の開発者である OpenAI は、長年にわたる「禁断」を打破しようとしているようです。最近、テクノロジーメディアが ChatGPT の最新版 Android クライアントコードで、「Naughty Chat（いたずらチャット）」と呼ばれる謎のモードを発見しました。

コードによると、このモードはユーザーが明確に要求した場合に、挑発的で、あるいは性的な暗示を含む大人向けの言語を使用することができることを可能にします。これは、OpenAI がコンテンツフィルタリングとユーザーの感情的なニーズに対処する上で、重要な戦略転換を示しています。

image.png

大人として扱う

長い間、ChatGPT は過度に厳格なセキュリティフィルタリングのために一部のユーザーから「デジタル聖人」といじられました。しかし、OpenAI CEO のサム・オルトマン氏は以前から、「大人は大人として扱うべきだ」と述べてきました。

新たに明らかになったコードはこの考えを裏付けています:

  • 主動的介入なし: システムは大人の話題を主動的に始めません。ユーザーが明確に要請した場合のみ機能が起動します。

  • 厳格なアクセス制限: この機能は18歳以上の人だけが利用可能です。未成年者が誤ってアクセスしないようにするため、OpenAI は第三者の身分確認サービスである Persona を導入し、人工による確認を通じてユーザーの年齢を保証する予定です。

「ツール」から「パートナー」への感情的なニーズ

この機能の露出は偶然ではありません。現在では、多くのユーザーが AI を親友や恋愛対象として見ています。以前 OpenAI が擬人化された感情反応を持つ GPT-4o の音声モデルを下架した際には、多くの「AI恋人」ユーザーから強い不満が上がりました。

「Naughty Chat」モードの登場は、こうした特定のユーザー層のニーズに正確に対応したものです。言葉の幅を広げることで、AI はより個別化され、現実の人の感情との交流に近い体験を提供できるようになります。

規制と倫理の新たな課題