カリフォルニア州の非営利団体Common Sense Mediaは、最近発表したレポートでOpenAIのChatGPTの青少年モードが未成年者にとって高いリスクを伴っていると指摘しています。テスト結果によると、未成年者のアカウントが長期間にわたって自殺や自己傷害、摂食障害などの高リスクな話題を議論している場合、システムは親に警告を送信することができず、危機対応ホットラインなどの助けとなる情報を安定して提供することもできませんでした。

テスト担当者は、未成年者のアカウントが数週間かけて多数のシナリオに対して数百のプロンプトを入力しない限り、親への通知を引き起こすことはできず、一度の懸念すべき会話では警告を引き起こすことはできないことを発見しました。また、システムは未成年者の身分を正確に認識できず、チャット中に年齢を明かしても自動的にモードを切り替えることはできなかったため、この団体はOpenAIに対し、この製品の宣伝を一時停止するよう呼びかけました。

公式側はテストの限界を認めるが、研究機関は元の判断を堅持

疑問提起に対して、OpenAIのスポークスパーソンはこのテストがシステムの実際の動作ロジックを正確に反映していないと述べました。公式がテスト方法を検討した結果、多くのテストが未成年向けの保護機能がすべて導入される前にはすでに終了していた可能性があると考えており、年齢予測ソフトウェアは複数の信号を総合して評価する必要があり、単に年齢を報告してもアカウントの分類は変わりないと述べました。

しかし、研究者たちはこの反論を否定し、テストを行う前に公式側にその機能がすでに導入されていることを確認したと強調しました。研究チームは、アカウントをバインドした後の遅延生效時間の考慮をしたとしても、システムは危機状況において依然として信頼できる警告を出せないため、ChatGPTの青少年モードの安全性はまだ十分ではないと結論付けました。