據《金融時報》8月17日報道,OpenAI於上月底正式解散其防範團隊(Prevention Team)。該團隊原負責評估前沿模型是否構成生化、網絡攻擊等嚴重風險,並制定相應緩解方案。解散後,其職能按生物、網絡等風險領域拆分,併入現有業務團隊。

OpenAI

這是OpenAI近期組織架構調整的最新舉措。在過去數年間,該公司已相繼解散AGI準備團隊與超級對齊團隊,逐步偏離早期以安全爲導向的公益治理架構。與此同時,倫理負責人Chloé Bakalar、首席未來學家Josh Achiam及安全主管Johannes Heidecke等關鍵安全崗位成員近期相繼離職。2024年離職的前超級對齊團隊負責人Jan Leike向《金融時報》表示,公司正爲追求“炫酷產品”而系統性忽視安全投入。

防範團隊解散後,今年2月從Anthropic加入OpenAI的準備團隊負責人Dylan Scandinaro將聚焦於“遞歸自我改進”型AI的潛在影響研究。這一系列變動發生在OpenAI籌備大規模IPO的關鍵節點,公司治理結構正從非營利主導模式向商業化實體加速轉型,安全與增長之間的張力持續成爲外界關注焦點。