AIスタートアップのアンソロピックは、2026年10月8日にモデル使用ポリシーを正式に更新し、そのエースAIモデルであるClaudeを用いて選挙への干渉、武器ソフトウェアの開発、大規模な監視行動を行うことを明確に禁止するとともに、「モデルに対する継続的な言葉によるいじめ」を初めて禁じる対象に加えました。

今回の改正は、8月に導入した不正利用防止メカニズムのさらなる制度化であり、生成型AIが民主主義プロセスに与える潜在的な脅威を防ぐため、全面的な安全ラインを設定することを目的としています。

claude,クロー・ド

新バージョンのポリシーでは、「民主プロセスを破壊しないこと」というタイトルの章を設け、ユーザーがClaudeを使って偽ニュースメディアの生成や偽アカウントの運営などの大規模な詐欺行為、または有権者を誘導したり選挙を干渉する行為を行うことを全面的に禁止しています。

注目すべきは、人間とAIとの相互作用における極端な状況に対応するために、政策に長時間にわたる悪意のある罵倒的な会話を終了する条項が追加されたことです。公式の補足説明では、この制限は極少数の無駄な使い方の場面にのみ適用され、通常の意見批判、学術的テスト、研究分析、およびダーククリエイティブな創作などは制限対象外であると強調しています。

常に「AIの安全性」を重視する企業として、アンソロピックは以前から宗教学者と協力してモデルの意識や倫理などの先端的なテーマを探求しており、最新の株式公開に関する書類では高い損失と事業成長の状況が詳しく明らかにされ、AI技術がもたらすシステムリスクについて警告しています。

生成型AIが社会インフラに深く根付いていく中、今回のポリシーの更新はモデルが悪意ある利用に対して持つ防御メカニズムを向上させるとともに、大規模モデル業界の合規性管理と人間とAIの相互作用の倫理において新たな基準を示しました。