來自 OpenAI、Anthropic、谷歌和 Meta 等頭部 AI 公司的1134名員工近日聯合簽署公開信，呼籲美國政府支持國際合作，開發必要的技術和治理工具，以便在必要時對 AI 發展"有意識地把控節奏"。OpenAI CEO 薩姆·奧爾特曼罕見表態支持這一倡議。

該倡議名爲"把控前沿"（Pacing the Frontier），簽署者包括 Anthropic CEO 達里奧·阿莫代伊及聯合創始人傑克·克拉克、賈裏德·卡普蘭，OpenAI 首席科學家雅庫布·帕霍茨基、首席研究官馬克·陳，Meta 首席科學家趙晟佳，谷歌 DeepMind AI 安全與對齊負責人安卡·德拉甘，以及 Thinking Machines 首席科學家約翰·舒爾曼等。

image.png

公開信的核心關切是"自動化 AI 開發"——即 AI 系統能夠自行開發和改進 AI 的能力，業界稱之爲"遞歸式自我改進"。Anthropic 此前曾表示，其 Claude 系列模型正在快速接近這一門檻。信中寫道:"很難準確預測這將在多大程度上加速 AI 進步，但確實存在一種真實風險:AI 能力的發展速度會迅速超出我們理解或控制這些系統的能力。"

OpenAI 在 X 平臺發文迴應:"我們相信，在未來的某個時間點，前沿模型開發中的 AI 加速可能會如此之快，以至於世界將需要把控 AI 進步的速度。"Anthropic 則表示:"我們上個月發佈的關於遞歸式自我改進的研究表明，我們需要一些工具，能夠有意識地調控 AI 發展的前沿速度，讓社會有時間做好準備。"

奧爾特曼的態度轉變尤爲引人注目。過去他曾避免簽署呼籲放緩 AI 發展的倡議，2023年的一封類似公開信被他批評爲"缺少關於究竟需要在哪些方面暫停發展的關鍵技術細節"。但在《Invest Like the Best》播客中，他近期表示:"我們可能需要把控 AI 發展的速度，給自己足夠的時間，讓社會適應這些新的能力水平並建立起防護機制。同時，我們也需要想辦法做到這一點，既不能讓任何人覺得這是監管俘獲，也不能讓人覺得這是前沿 AI 實驗室之間的串通。"

當前 AI 公司正競相研發能力越來越強大的系統，外界擔憂 AI 發展速度可能超過現有安全保障、治理體系和監管機制的跟進能力。此次聯名信表明，即便是 AI 行業內部，對"無節制加速"的焦慮也已從邊緣走向主流。