OpenAIはこの週、若年層向けにChatGPTのユースターバージョンを正式にリリースしました。年齢認証メカニズムにより一部の機能が制限されています。しかし、この新バージョンのリリースは称賛を博すどころか、多くの児童安全専門家からそのセキュリティメカニズムの透明性と実効性について疑問が呈されました。

児童安全および評価分野の専門家たちは、広く親や青少年に推奨する前に、このシステムが大量の独立したテストを受けなければならないと指摘しています。また、OpenAIはセキュリティメカニズムの具体的な動作方法を明確にする必要があります。Common Sense Mediaのロビ・トニー氏は、OpenAIが多数の重要な約束をしたことは理解しているものの、それらの機能の有効性を示す実際的な証拠が必要であると述べました。

児童ネットワークセキュリティイニシアチブ組織Fairplayの代表取締役ジョッシュ・ゴリン氏はより厳しい懸念を表明しました。彼は、紙面上では正しい方向へ進んでいるように見える措置でも、対応する責任追及制度がない限り意味がないと指摘しました。過去には、OpenAIが自殺、暴力、薬物使用に関するコンテンツの制限が失敗したり、機能しなかったりした事例があります。企業の自己保証だけでは十分ではありません。

専門家たちは自動年齢認識システムの信頼性について強い疑問を呈しています。トニー氏は、OpenAIがこのシステムの効果データを公開していないことを指摘し、誤検出率や見逃し率が不明であり、完全自動システムではすべての青少年ユーザーを正確に識別するのは難しいと述べました。さらに、青少年はおそらくさまざまな回避手段を試して年齢確認を回避しようとするでしょう。

OpenAIが以前に「すべてのマークされたコンテンツはフルタイム従業員によって審査され、1時間以内に保護者に通知される」との約束に対して、専門家たちは依然として懸念を持っています。トニー氏は、内容を自動的に分類して人間の作業に渡すためのオートカテゴリライザが本当に信用できるのかと質問しました。一方、ゴリン氏は、毎日マークされた会話数、審査担当者の人数、平均審査時間などの具体的な数字を公開することを求めており、企業がすべての危険な会話を真剣に審査するために十分な人員を確保できるとは信じられないと言いました。

専門家たちは、親と子がChatGPTアカウントを主に結びつける仕組みが実際に保護効果を低下させていると一致しています。ゴリン氏は、より適切な方法として、保護機能をデフォルトで有効にして製品設計に組み込むべきだと提案しています。例えば、使用時間制限をデフォルト設定するなど、複雑な設定の責任をすべて保護者に押し付けるのではなく、そうすべきです。