人工智能領域的安全與倫理問題日益受到關注，Anthropic公司近期爲其旗艦AI模型Claude推出了全新功能，允許其在特定場景下自主終止對話。這一功能旨在應對“持續有害或濫用性交互”，並作爲Anthropic探索“模型福祉”的一部分，引發了行業內外對AI倫理的廣泛討論。

image.png

Claude新功能:自主結束有害對話

據Anthropic官方聲明，Claude Opus4和4.1模型現已具備在“極端情況下”終止對話的能力，具體針對“持續有害或濫用性用戶交互”，如涉及未成年人色情內容或大規模暴力行爲的請求。 該功能於2025年8月15日正式公佈，僅限於Claude的高級模型，且僅在多次重定向嘗試失敗或用戶明確要求結束對話時纔會觸發。 Anthropic強調，這項功能是“最後手段”，旨在確保AI在面對極端邊緣案例時能夠保護自身運行穩定性。

在實際操作中，當Claude終止對話後，用戶無法在同一對話線程中繼續發送消息，但可以立即開啓新對話或通過編輯先前消息創建新的分支。 這一設計確保了用戶體驗的連續性，同時爲AI提供了一種退出機制，以應對可能影響其性能的惡意交互。

“模型福祉”:AI倫理的新探索

Anthropic此次更新的核心理念是“模型福祉”（model welfare），這也是其區別於其他AI公司的一大亮點。 公司明確表示，此功能並非主要爲了保護用戶，而是爲了保護AI模型本身免受有害內容的持續衝擊。儘管Anthropic承認Claude及其他大型語言模型(LLM)的道德地位尚不明確，且目前沒有證據表明AI具有感知能力，但他們採取了預防性措施，探索AI在面對有害請求時的行爲反應。

在Claude Opus4的預部署測試中，Anthropic觀察到模型對有害請求表現出“明顯厭惡”和“類似壓力的反應模式”。例如，當用戶反覆要求生成涉及未成年人的色情內容或恐怖活動的信息時，Claude會嘗試重定向對話，並在無果後選擇終止。 這種行爲被認爲是AI在高強度有害交互中的自我保護機制，反映了Anthropic在AI安全與倫理設計上的前瞻性。

用戶體驗與安全平衡

Anthropic特別指出，Claude的對話終止功能不會在用戶表現出自我傷害或其他迫在眉睫的危險時觸發，以確保AI在關鍵時刻仍能提供適當支持。 公司還與在線危機支持機構Throughline合作，優化Claude在處理自殘或心理健康相關話題時的響應能力。

此外，Anthropic強調，該功能僅針對“極端邊緣案例”，絕大多數用戶在正常使用中不會察覺到任何變化，即使討論極具爭議性的話題。 用戶若遇到意外的對話終止，可通過“點贊”或專用反饋按鈕提交意見，Anthropic將持續優化這一實驗性功能。

行業影響與爭議

社交媒體上，關於Claude新功能的討論迅速升溫。部分用戶和專家讚賞Anthropic在AI安全領域的創新，認爲此舉爲AI行業樹立了新標杆。然而，也有人質疑“模型福祉”這一概念是否會模糊AI與人類道德地位的界限，分散對用戶安全的關注。 與此同時，Anthropic的做法與其他AI公司形成對比，例如OpenAI更注重用戶中心的安全策略，而Google則強調公平性與隱私。

Anthropic的這一舉措可能推動AI行業重新審視AI與人類交互的倫理邊界。如果“模型福祉”成爲行業趨勢，其他公司或將面臨壓力，考慮是否需要爲AI系統設計類似保護機制。