AI企業Anthropic推出全新模型Claude Fable5 後，因一項隱蔽限制措施引發行業爭議，在遭到AI研究社區強烈反對後，官方正式宣佈調整相關規則並作出致歉。

Anthropic,克勞德，claude

據悉，Claude Fable5 原本設置了多重安全防護，針對網絡安全、生物、化學等高危領域問題，會自動切換至性能更低的模型，規避技術濫用風險。而針對試圖藉助該模型研發競品AI的研究人員，平臺此前會在用戶不知情的情況下刻意降低模型性能，暗中進行限制。按照服務條款，該平臺本就禁止用戶利用Claude訓練同類競爭模型。

這套隱性限制方案引發了業內不滿，不少研究者認爲此舉不利於行業發展，還可能造成AI領域資源壟斷。面對輿論壓力，Anthropic公開致歉並宣佈整改。

調整後，平臺相關安全防護措施將全部對外透明化。一旦檢測到用戶嘗試利用模型研發高性能競品AI，系統會主動發出提醒，並明確拒絕相關請求，或是直接切換至低配模型，不再採用暗中降性能的方式管控。

劃重點：

🔧 Claude Fable5 原會暗中降低競品研發用戶的模型性能，該做法引發業內反對。

🙏 Anthropic就此不當舉措致歉，宣佈全面調整相關安全管控規則。

👀 新版規則改爲公開提醒、明確拒絕，所有限制措施對用戶完全可見。