チャットボットサービスCharacter.AIは、「保護者向けインサイト」という新機能を導入します。この機能により、10代のユーザーは、毎週、自身のチャットボット使用状況レポートを保護者のメールアドレスに送信できます。同社発表によると、レポートには、ウェブとモバイルデバイスでの1日の平均使用時間、最も頻繁にやり取りしたキャラクター、各キャラクターとの会話時間などが含まれます。この取り組みは、未成年者のチャットボット使用における2つの大きな問題、つまり、過度の時間消費と不適切なコンテンツへの遭遇に対処するための、一連のアップデートの一部です。

ロボット教師、ロボット授業

このレポートは、親がアカウントを持つ必要はなく、任意の機能です。未成年ユーザーはCharacter.AIの設定で自由に設定できます。同社は特に、このレポートは青少年活動の概要であり、完全なログではないこと、チャットボットの会話内容は共有されないことを強調しています。現在、このプラットフォームは、多くの地域で13歳未満の子供、ヨーロッパでは16歳未満の子供による使用を禁止しています。

Character.AIは昨年から未成年者向けに新機能を次々と導入していますが、同時に、そのサービスに対する懸念の声も高まっており、法的訴訟も発生しています。このプラットフォームは10代の若者に人気があり、ユーザーはチャットボットを作成、カスタマイズし、それらとやり取りしたり、公開したりすることができます。しかし、複数の訴訟で、これらのボットが不適切な性的コンテンツを提供したり、自傷行為を促すような内容を生成したりしていると主張されています。同社は、アップルとグーグル（昨年Character.AIの創設者を採用）からも、アプリの内容に関する警告を受けているとのことです。

Character.AIは、システムを再設計したと述べています。多くの変更点の中で、18歳未満のユーザー向けに「センシティブな」出力を避けるように訓練されたモデルを提供し、これらのボットが人間ではないことを知らせる、より目立つ通知を追加しました。しかし、現在の人工知能規制と児童安全法への高い関心の高まりを考えると、これが同社が求められる最後の措置ではない可能性があります。