抖音發佈《2025第一季度黑產治理數據報告》，顯示其在打擊黑色產業鏈方面取得顯著成效。報告顯示，抖音在第一季度封禁了260萬個涉及水軍、欺詐和違規導流的黑產賬號，並將涉嫌違法犯罪的線索上報給有關部門。

抖音通過構建以 AI 爲核心的治理體系，顯著提升了在黑產違規場景的巡檢、預警、研判等環節的效率。在水軍治理方面，抖音利用 AI 能力搭建智能機器人工具，實現了風險發現、預警、巡檢、研判和回掃等環節的自動化運營。這使得平臺在“刷量”識別和處置上的效率大幅提升，單個案例處理時間達秒級，綜合準確率超過85%，網絡水軍服務違規的巡檢效率提升了10.25倍，日均攔截違規請求6000萬次，封禁水軍賬號超20萬個。

抖音

在欺詐治理方面，抖音持續強化反詐提醒，升級“驗證助手”工具，幫助用戶驗證信息是否來自抖音官方，並查看官方客服與自己的聯繫記錄。平臺還完善了多個場景的安全模型，重點解決小衆聊天場景下的詐騙問題，並加大了對殺豬盤、色情導流交易等高危場景的用戶提醒功能。2025年至今，抖音共封禁欺詐相關賬號140萬個，每日下發提醒短信超80萬條，撥打反詐預警電話近17萬次。

針對違規導流問題，抖音建立了多賬號鏈路識別體系，從事前、事中、事後等多個環節切斷黑產賬號之間的聯繫，並將違規賬號統一處置。通過 AI 技術的深度運用，平臺在第一季度使相關違規的舉報量下降了73.3%，封禁導流違規賬號近100萬個，處置違規視頻內容745萬條，並將線索上報相關部門，配合打擊違規導流團伙。

抖音表示，將繼續利用 AI 技術提升治理能力，保護用戶安全，維護平臺生態健康。