字節跳動正在給自家的大模型繫上一根更結實的繮繩。10月13日,其 AI 模型部門 Seed 對內發出通知,決定單獨成立一個新部門,專門負責把控大模型的安全風險。這個新部門來頭不小——它的一把手不再層層彙報,而是直接越過中間層級,向字節跳動大模型的"一號位"吳永輝本人彙報,足見這件事在公司內部的權重。
新部門被命名爲"Seed Model - Alignment & Preparedness",由嚴林掛帥。嚴林是字節 Seed 團隊的核心高管之一,過去幾年一直把守着豆包大模型"對齊"(Alignment)這道關。字節對外解釋,設立這個部門的初衷,是要在安全與對齊方向上砸下更重的投入。所謂"對齊",說白了就是讓模型的所作所爲始終貼着人類的真實意圖和安全邊界走,別自己跑偏;落到產品層面,你能在豆包這類聊天機器人的回答合規性、問答質量,乃至價值觀取向上,直接感受到它的存在。
這根繮繩要勒住的不只是閒聊時的失言。字節把提升 Agent Model(智能體模型)的安全能力寫進了部門目標,更明確把防範 CBRN——也就是化學、生物、放射、核這類最危險的前沿能力——列爲重點盯防對象。當智能體越來越能自己調用工具、自己完成長鏈條任務,它潛在的破壞半徑也在同步放大,給這樣的系統單獨配一支"安全衛士"隊伍,等於在模型真正學會獨立行動之前,先把剎車和方向盤都攥在人手裏。
VIP會員