OpenAIがChatGPTの保護者通知を拡大し、青少年の暴力行為はアラートを発動

OpenAIは、ChatGPTの親向け通知機能を拡大し、青少年ユーザーが暴力的脅迫やネットいじめのポリシーに違反してアカウントが停止された場合、関連するアカウントを持つ保護者や監護者が通知を受け取ることになりました。

これまで、OpenAIは親向けの制御機能を導入しており、親が未成年の子供のアカウントを関連付け、使用制限を設定し、センシティブなコンテンツを減らすことができ、自傷のリスクが見つかった際に警報を送信します。今回のアップグレードにより、システムは他者に危害を及ぼす可能性のあるリスク行動もカバーするようになります。

この機能は、OpenAIとネットいじめ監視機関のMoonshotが共同で開発しました。Moonshotは、重大なリスクが発生した際に保護者に早期に通知することで、家庭が早急に介入し対応できると述べています。

OpenAIが此次安全メカニズムを強化した背景には、AIの使用リスクに関する議論があります。2025年のカナダ銃撃事件の調査では、容疑者がChatGPTを使用していたことが判明し、その後OpenAIは安全対策の強化を約束しました。

さらに、OpenAIは親向けの制御ページに「学習モード」を追加し、学生が提示された質問に対して直接答えを提供する代わりに、思考を促すようにしています。また、青少年が長時間ChatGPTを使用している場合、システムは休憩を促すメッセージを表示するようになります。

AIアシスタントが教育などの場面に進出し、未成年者の安全利用が業界の重要なテーマとなっています。OpenAIは、規制ツールやインタラクティブデザインを通じて、AI製品の安全性を高めています。