Anthropic CEO 達里奧·阿莫迪發文喊停前沿 AI 的狂奔,提出一套圍繞"可覈驗性"的三步走方案:先由企業引入駐場第三方評估員,再推動美國及其盟友協同,最終尋求全球協作。他認爲 AI 的遞歸式自我改進已經出現,6到12個月後,智能體羣或許能借殭屍網絡把互聯網攥在手裏,因此必須放慢模型能力提升的節奏,把多出來的時間投到運營可靠性、對齊、可解釋性以及測試評估這些安全相關的領域。
阿莫迪把"限速"的資格也講得很現實:美國得先維持並擴大相對中國的技術領先,才談得上有減速的空間;而全球範圍的限速最終繞不開中國的參與。他順手拋出一個四級國際協議層級,但也承認全面限速短期內落地的可能性很低。
這番呼籲得到了同行中兩大標誌性人物的呼應。OpenAI CEO 奧特曼轉發表示支持,馬斯克也稱認同。值得玩味的是,此前 Anthropic 研究員雅各布·考克森離職時曾警告,AI 或在10年內滅絕人類——從內部研究員的出走預警,到 CEO 公開主張限速,這家以安全敘事立身的公司,正把"慢下來"從理念推到產業與政策議程上。
VIP會員