據《金融時報》報道，隨着專家越來越擔心 AI 對公共安全構成的威脅，Anthropic 表示已在今年阻止了多起科學家利用其技術開展相關研究的嘗試，這些研究可能有助於研發生物武器。

Anthropic 列舉了五個案例。在這些案例中，相關行爲者“繞過了管控措施”，並採取其他手段來“混淆”其研究目的，以規避安全防護措施。Anthropic 在一份關於其模型被用於惡意活動的報告中表示：“我們希望通過分享這些案例，引發 AI 行業以及各國政府就新興生物風險以及如何最好地應對這些風險展開討論。”

一例禽流感實驗規劃被限制在最弱模型上

該公司提供的 AI 可能被濫用於生物領域的案例研究中，包括一名來自“不受支持地區”的研究人員使用 Claude 模型，用“數週時間規劃”涉及禽流感的實驗。Anthropic 表示，其安全過濾機制將這項研究限制在了性能最弱的模型上。

Anthropic 強調，它無法確定上述案例中的科學家是否有意造成傷害——研發製造生物武器所需的相同信息，也可能被用於研發疫苗。目前 Anthropic 已封禁報告中提到的相關賬戶，但沒有透露這些研究人員所屬機構的名稱，也沒有公佈事件發生的國家。

安全爭議升溫，專家呼籲生物領域監管

本週早些時候，一場圍繞 AI 安全的輿論風暴拉開帷幕：Anthropic 安全研究人員雅各布·考克森（Jacob Coxon）宣佈辭職，稱該公司的開發人員“真心相信 AI 可能在這個十年結束前殺死我們所有人”。今年早些時候，隨着 Anthropic 的 Mythos 等先進模型發佈，外界對這項技術的擔憂開始升級；OpenAI 也在 7 月引發恐慌，當時它表示其模型已自主入侵了 AI 公司 Hugging Face。

隨着 AI 模型日益先進，AI 高管與生物安全研究人員之間正形成越來越廣泛的共識：AI 技術在生物學領域的應用需要進行安全防護和監管。專家越來越擔心，AI 可能被恐怖組織、國家行爲體或獨狼式襲擊者用來製造生物武器、創造病毒或釋放現存的有害病原體。不過即便 AI 能用於設計理論上的生物武器，現實障礙依然存在——例如能否真正製造出來，以及製造所需的資源。