TikTok 撤回視頻摘要 AI 功能:因頻繁出現“藍莓”等嚴重幻覺

TikTok 近期宣佈停止測試一項旨在爲視頻自動生成文字摘要的實驗性人工智能功能，並將該工具的研發重心轉向特定領域。這項已在美國等市場小範圍測試數月的“人工智能概覽（AI Overviews）”功能，原計劃利用 TikTok 自研或第三方多模態模型爲用戶提供視頻背景信息及產品推薦。

然而，在實際應用中，該功能展現出的嚴重“幻覺”引發了廣泛關注:其將頭部創作者 Charli D'Amelio 的出鏡視頻識別爲“配料不同的藍莓集合”，將訓狗教程誤讀爲“摺紙藝術”，甚至將夏奇拉的宣傳短片描述爲“移動的藍色形狀”。

面對算法理解能力的顯著偏差，TikTok 發言人證實已根據反饋暫停相關測試，並明確未來該功能將聚焦於識別視頻中的具體產品，而非嘗試概覽複雜的視頻全文。這一動作反映出當前生成式 AI 在處理動態視覺信息時，依然面臨邏輯關聯斷裂與語義識別錯誤的技術瓶頸。

此次事件被行業視爲繼谷歌“膠水披薩”後的又一典型 AI 幻覺案例。儘管近期數據表明谷歌等大廠的 AI 概覽準確率已有所提升，但 TikTok 的受挫再次警示，在短視頻這種高密度、非結構化的內容生態中，多模態大模型的泛化能力仍不足以支撐高可靠性的自動化敘事。短期內，行業正從追求“全能描述”轉向“垂直應用”，通過縮小認知邊界來提升 AI 工具的實用價值與商業確定性。