オープンアイのCEOであるサム・オルトマン氏は最近、長文を公開し、同社がこの分野で新たに取り組んでいることについて詳しく説明しました。彼は、オープンアイが青少年の安全、自由、プライバシーのバランスを取るために努力していると語り、チャットGPTが若いユーザーとやりとりする際にはより慎重な態度を取っていることを強調しました。

オルトマン氏は、ユーザーがチャットGPTとどのようにやりとりしているかを分析することで年齢を推定する「年齢予測システム」を開発中だと述べました。このシステムの導入により、疑問がある場合、チャットGPTは18歳未満の体験をデフォルトとして扱うことになります。また、オルトマン氏は、一部の国や状況では、ユーザーに本人確認書類を提出してもらうことで、年齢情報の正確性を確保する可能性があると指摘しました。

青少年向けの特別な規則に関しては、オープンアイはより厳格な措置を講じることになります。例えば、未成年者とのセクシャルな会話や自殺や自傷に関する敏感なトピックを避けることです。オルトマン氏は、創造的なライティングの環境でもこれらのトピックは厳しく制御されるべきだと強調しました。「18歳未満のユーザーが自殺を考えていると表明した場合は、できるだけ保護者に連絡します。連絡が取れない場合は、関係当局に報告して、可能なかぎりの危害を防ぐようにします」と語りました。

注目すべきは、オルトマン氏がこの記事を公開したその日のうちに、米国上院で人工知能チャットボットの潜在的な危険性を審査する聴聞会が開催されたことです。この聴聞会では、チャットボットとやりとりした後に自死した青少年の親も出席し、こうした技術がもたらす深刻な問題を社会に伝えていました。

オープンアイのこれらの新方針は、青少年ユーザーの安全とプライバシーをよりよく保護し、より健全なデジタル環境を促進することを目的としています。情報技術が急速に発展する現代において、技術の進歩とユーザー保護のバランスをどう取るかは、企業と社会が共に直面する重要な課題です。