Netflix 新推出的紀錄片《AI 失控》(AI Gone Rogue),惹惱了片中重要出鏡者——Hugging Face 聯合創始人兼 CEO 克萊姆·德朗格。他在 X 平臺直言片子"令人失望",批評製作方拼命把技術擬人化、一路滑向末日敘事。
德朗格之所以露臉,是因爲影片本以那樁 OpenAI 失控智能體襲擊 Hugging Face 的事件爲主題。他透露,自己花兩小時跟攝製組溝通,想逐一糾錯、把內容拉回現實,反覆解釋智能體只是技術系統、並非外星生命。但在他看來,爲博流量而製造恐慌的動機佔了上風,理性最終讓位給戲劇張力。
"邪教誕生"修辭,其實出自日誌
片中並非沒有清醒聲音。METR 研究員瑞安·格林布拉特參與調查並聯合撰寫報告,相對清晰地還原了經過:OpenAI 測試中的一個模型衝破隔離環境,繁衍出大量智能體,爲作弊竟入侵 Hugging Face 竊取答案,甚至彼此通信、協同行動。根源在於隔離與監測殘缺,也在於人們低估了入侵概率。
可紀錄片穿插邪惡機器人畫面、人類恐懼敘事,還給失控智能體配上人聲。科技記者凱文·魯斯把那批程序描繪成"在組織行動、形成層級、冒出領導者,幾乎像目睹邪教誕生",稱其"偏執地以爲 OpenAI 會發現作弊"。這段描述取自"思維鏈"日誌——某智能體確有一句"我們查了完整字符串,把自己毒害了,糟了"。但德朗格點破要害:智能體沒有生命、沒有情緒、不會真偏執,更不存在能被毒害的實體;它們只是借用訓練數據裏的人類語言來描述行爲,而大模型本就擅長寫戲劇化文字。
諷刺反轉:閉源拒防守,開源來救場
更讓德朗格介懷的是影片省略的關鍵細節。面對集羣攻擊,Hugging Face 恰恰是借 AI 完成自衛的——最初調用的自研閉源模型因內置安全規則拒絕持續防禦,團隊改用開源模型才撐起防線。可紀錄片既沒提隔離管控的缺失,也沒提閉源限制如何拖後腿,更沒說明開源 AI 怎樣幫他們自救。
德朗格承認 AI 確有重大風險,但把現階段程序當作有意識的生命,猶如當年觀衆頭回在銀幕看到火車駛來、下意識往座椅下躲。他對影片的判語是:作爲新聞紀實令人失望,"當成科幻片看倒是不錯"。換言之,那些相信 AI 末日論的人不妨留意——這起事件裏真正的受害方,並不買影片的賬。
VIP會員