最近、OpenAI は ChatGPT プラットフォームで新しいセキュリティルーティングシステムをテストし、公式に親向けコントロール機能をリリースしました。この新規措置は、以前の ChatGPT がユーザーの妄想や有害な会話を促進するという欠点に対処することを目的としています。このセキュリティシステムの導入により、ユーザー間で広範な議論とさまざまな反応が起こっています。

ChatGPT OpenAI 人工智能 (1)

新しいセキュリティルーティングシステムの核となるのは、感情的な敏感な会話の検出であり、チャット中に OpenAI が最も適切なセキュリティタスクを実行できる GPT-5 モデルに自動的に切り替える仕組みです。以前のモデルとは異なり、GPT-5 には「セキュリティ補完」という新機能が搭載されており、これは感覚的なトピックを処理する際、単に返答を拒否するのではなく、安全な回答を提供します。この変化は、モデルが過度に迎合することで生じる「AI の妄想」現象を減らすことを目的としています。

多くの専門家やユーザーがこのセキュリティ対策を支持している一方で、一部のユーザーからは不満の声も上がっています。それは、OpenAI の行動が大人を子供のように扱っているように感じられるからです。OpenAI 側は、新しいルーティングメカニズムが一部のユーザーにとって不快感を与える可能性があることを認めていますが、これはセキュリティ保護を向上させる重要なステップだと考えており、120日間の改善期間を設けています。ChatGPT のアプリケーション責任者である Nick Turley はソーシャルメディア上で、モデルの切り替えは一時的であり、ユーザーはいつでも現在有効なモデルを確認できることを述べました。

一方で、親向けコントロール機能の導入もまた、異なる反応を引き起こしています。一部の親は AI の使用方法を監視できるようになったことに称賛していますが、他の人々はこれにより OpenAI が成人にも同様の制限を課す可能性を懸念しています。親向けコントロール機能では、保護者が未成年者の使用体験をカスタマイズできるようになっており、例えばサイレントタイムの設定、音声モードや記憶のオフ、画像生成の削除などが可能です。また、未成年者のアカウントには追加のコンテンツ保護措置があり、暴力や過激な内容を減らし、自傷傾向があるかを検出する機能もあります。

OpenAI はブログで、潜在的な危害が検出された場合、専門チームが即座に審査を行い、メール、SMS、プッシュ通知を通じて保護者に通知すると述べています。ただし、保護者がこれらの通知を受け取らないことを選択した場合は除きます。さらに、OpenAI は保護者と連絡が取れない場合に、警察や緊急サービスに迅速に連絡する方法を探っているとも語っています。

ポイント：

🛡️ OpenAI は ChatGPT に新しいセキュリティルーティングシステムを導入し、感覚的なトピックの処理能力を向上させました。

👨‍👩‍👧 親向けコントロール機能により、保護者は未成年者の AI 使用体験をカスタマイズし、監督ができるようになりました。

⚠️ システムが潜在的な危害を検出すると、すぐに保護者に通知され、警察との連絡体制の構築も検討されています。