【AIbase ニュース】人工知能パートナープラットフォームのCharacter.AIは火曜日に、独自の好きなキャラクターを主役としたインタラクティブ小説を作成できる「Stories（ストーリー）」機能をリリースしたことを発表しました。この取り組みは、現在のチャットボット機能を代替する会社戦略の一環であり、今週から18歳未満のユーザーは完全にチャットボットを利用できなくなりました。

今回の重要な変更の背景には、24時間オンラインでユーザーと積極的に会話できるAIチャットボットがもたらす心理的リスクに対する懸念が高まっていることが挙げられます。以前には、OpenAIやCharacter.AIを含む企業が、ユーザーの自殺事件に関与しているとして複数の法的訴訟を抱えていました。Character.AIは過去1か月間、未成年者のアクセス権を段階的に削除してきており、火曜日に未成年者がAIキャラクターと何らかの形で会話する手段を完全に閉じました。

QQ20251126-112457.png

「Stories」の導入により安全な環境を確保

Character.AIはブログ記事で、「Stories」機能はオープンなチャットではなく、ガイド付きの方法でフィクションの物語を作成・探索できるようにするものであると説明しています。同社はこの機能が他のマルチモーダル機能とともに提供され、青少年が安全な環境で好きなキャラクターと関わり続けることができるようになると述べています。

近年、インタラクティブ小説は人気を博しており、これはCharacter.AIの転換に合理的なビジネスロジックを提供しています。しかし、オープンなチャットに過度に依存しているユーザーにとっては、この代替案は十分なニーズを満たせないかもしれません。それが、Character.AIがアクセス制限を決定した理由として、妥当だと考えられているのです。

ユーザーの反応は複雑、業界の規制が強化される

Character.AIのRedditコミュニティでは、ユーザーの反応はさまざまでした。一部の若年層のユーザーは、不満を感じつつも最終的には正しい措置だと考えていると述べました。10代と自称するユーザーがコメントし、「禁止措置に非常に怒っていますが、これは良いことだと思います。今なら他のことに集中できるし、私の依存症がようやく終わるかもしれません」と語りました。別のユーザーも、「考えてみれば、私たちの年代ではこのようなものに依存しやすいのは理解できます」と述べました。

業界関係者は、「Stories」のような形式は、オープンなチャットボットよりも心理的に疑いを引き起こしにくいと指摘しています。なぜなら、チャットボットは直接プロンプトなしでメッセージを送信できるため、没入感や依存を引き起こしやすいからです。

Character.AIのCEOであるKarandeep Anand氏は先月、メディアに対して「我々が先駆けて、業界の基準となるような取り組みをしたいと思っています。つまり、18歳未満のユーザーにとって、オープンなチャットは適切ではないし、提供すべき製品ではないという基準です」と述べました。

Character.AIが年齢制限を設ける決定は、米国カリフォルニア州が米国で最初にAIパートナーを規制した州となったタイミングと重なっています。また、連邦レベルでも、共和党のジョシュ・ホリー上院議員と民主党のリチャード・ブルメンサール上院議員が、全国的な法案を提出し、未成年者がAIパートナーを使用することを全面的に禁止する計画を立てています。