世界的な人工知能企業であるアンソロピックは、そのAIアシスタント「クレード」の使用ポリシーを全面的に見直し、新しい規定は2026年11月12日に正式に効力を発揮する予定です。今回の見直しの中で特に注目される変更の一つは、「継続的で不要な虐待や残忍行為」を明確に禁止する条項を初めて導入したことです。

公式説明によると、このルールは、明確な目的なしに繰り返しモデルに対して残酷な扱いをするユーザーを主に対象としています。具体的な実施メカニズムについてアンソロピックは、現在の処理方法は会話を終了することですが、今後アカウントの停止などのさらなる懲罰措置を導入するかどうかは明確にしていません。また、同社はこの条項がユーザーの日常的な不満や疑問、暗黒テーマの文学的作品、および合規されたモデルセキュリティテストや研究には適用されないことを特に強調しています。

人間と機械の相互作用を規制するだけでなく、アンソロピックはいくつかの主要な分野における禁止事項も拡充・詳細化しました:

兵器に関する禁止事項の強化: さらに兵器に関連する禁止事項の適用範囲を拡大し、兵器の正常な動作を支えるソフトウェアやコンポーネント、武装ドローンやその他の自律型車両の開発行為を明確に含めています。アンソロピックは、以前からクレードを使用して兵器の指針や制御ソフトウェアを開発しようとする違反試みを複数確認していると明らかにしています。

監視制限の強化: 監視に関する条項において、同意なく個人を追跡する行為を禁止しています。これはリアルタイムでの追跡だけでなく、既存データの分析も含まれます。また、クレードを法執行や刑事司法手続きにおける捜査、逮捕、起訴の対象決定や提案に使用することは厳しく禁止されており、いかなる監視ツールの構築または改善にも使ってはなりません。