字節跳動近期針對“實習生破壞大模型訓練”的傳聞進行了官方迴應。該公司確認,確實有一名實習生惡意干擾了商業化技術團隊的研究項目模型訓練任務,但這一行爲並未影響到公司的正式商業項目和線上業務,也沒有涉及到字節跳動的其他大型模型業務。
此外,字節跳動還指出,網絡上流傳的“涉及8000多卡、損失上千萬美元”的說法是嚴重誇大的。
據公開報道,該實習生在字節跳動商業化技術團隊實習期間,因對團隊資源分配不滿,利用了Hugging Face平臺的漏洞,使用攻擊代碼破壞了團隊的模型訓練任務。
目前,該實習生已被辭退,並且字節跳動已將此事通報給了行業聯盟和實習生所在的學校。
技術安全專家指出,此事件暴露了字節跳動在技術訓練方面的安全管理問題,公司沒有做好權限隔離和共用代碼的審計。正常情況下,每次大的代碼變動必須進行審計,無論誰操作都有痕跡記錄,一個人想動代碼是不可能的。
近來,字節跳動一直在大力投資AI技術,除了目前比較流行的豆包聊天機器人外,還有AI視頻生成工具即夢,AI音樂生成工具海綿音樂等。
此外,字節跳動還計劃在馬來西亞投資約10億林吉特(約合21.3億美元)建立一個AI中心,以推動該地區的數字經濟發展。這表明字節跳動在AI領域的決心和投資力度。