据《金融时报》8月17日报道,OpenAI于上月底正式解散其防范团队(Prevention Team)。该团队原负责评估前沿模型是否构成生化、网络攻击等严重风险,并制定相应缓解方案。解散后,其职能按生物、网络等风险领域拆分,并入现有业务团队。

这是OpenAI近期组织架构调整的最新举措。在过去数年间,该公司已相继解散AGI准备团队与超级对齐团队,逐步偏离早期以安全为导向的公益治理架构。与此同时,伦理负责人Chloé Bakalar、首席未来学家Josh Achiam及安全主管Johannes Heidecke等关键安全岗位成员近期相继离职。2024年离职的前超级对齐团队负责人Jan Leike向《金融时报》表示,公司正为追求“炫酷产品”而系统性忽视安全投入。
防范团队解散后,今年2月从Anthropic加入OpenAI的准备团队负责人Dylan Scandinaro将聚焦于“递归自我改进”型AI的潜在影响研究。这一系列变动发生在OpenAI筹备大规模IPO的关键节点,公司治理结构正从非营利主导模式向商业化实体加速转型,安全与增长之间的张力持续成为外界关注焦点。
