OpenAIは一部の顧客向けに「プライバシー・セーフティ・プロセッシング（Private Safety Processing）」サービスをプレビュー版として発表しました。このサービスは、顧客データを保持することなく、自動化されたシステムによってAIモデルの潜在的な悪用行為をモニタリングし、ゼロデータ保持（ZDR）のセキュリティ能力をさらに拡張するものです。

AIモデルの能力が急速に向上する中で、ネットワーク攻撃やマルウェア生成などのリスク的な場面での使用が増加しており、AI企業は顧客のプライバシーとセキュリティ規制の両立をどうするかという課題に直面しています。OpenAIが今回導入したプライバシー・セーフティ・プロセッシングは、企業顧客が機密データを共有したくないにもかかわらず、安全な保護が必要な状況に対応するためのものです。

OpenAI

この技術は、OpenAIが既存のZDRポリシーを基盤として進化させたものであることが紹介されています。従来のZDRでは、API代理プログラムを通じてセッション単位で異常な使用行動を検出することで、顧客データを保存しないようにしていました。プライバシー・セーフティ・プロセッシングでは、複数の会話にわたって入力と出力を分析できるようになり、エージェントが長期的に潜在的なリスクをモニタリングします。異常活動が検出されると、関連するインタラクション情報をキャプチャして関連分析を行い、分散型の悪意あるリクエストを特定します。

OpenAIは、ユーザーの対話を人間が確認することなく、複数の会話にまたがる悪意のある使用パターンを見つけることができると説明しています。例えば、攻撃者は一度の検出を回避するためにリクエストを分割する可能性がありますが、この技術は複数のやり取りを分析して、悪意あるソフトウェアの製造やネットワーク攻撃などに該当するリスク行為があるかどうかを判断できます。

システムがセキュリティアラームをトリガーすると、OpenAIは明確なリスク信号を受け取ることがあり、状況に応じてさらなる措置を講じるかどうかを決定します。必要であれば、OpenAIは顧客に背景について問い合わせ、顧客は自身の判断でOpenAIにさらにデータを提供するかどうかを決めることができます。

この取り組みは、Anthropicが最近公開したデータ保持ポリシーに対するOpenAIの対応と見なされています。Anthropicは以前に、一部の「保護されたモデル」を処理する際にユーザーのデータと会話記録を30日間保持することを許可していることを発表しました。これは一部の企業顧客にとって機密情報のセキュリティへの懸念を引き起こしました。ただし、Anthropicは、顧客データの人工レビューは制限されたアクセス経路を通じて行われ、少数の承認済みレビュー担当者によって実施され、完全な改変防止ログが記録されることを説明しています。