小紅書重點打擊黑灰產團伙用AIGC大模型大規模矩陣養號行爲

日前，小紅書發佈了最新的 “黑灰產賬號治理階段進展公告”，宣佈在過去三個月內，共計處置了超過320萬的黑灰產賬號。

根據公告，截至2023年2月17日，小紅書的 “薯管家” 團隊在治理過程中，發現並處理了401個擁有10萬以上粉絲的賬號，以及9215個擁有1萬以上粉絲的賬號。這表明黑灰產賬號在社區內的影響力不容小覷。小紅書方面表示，治理黑灰產賬號主要集中在兩個領域:黑灰產養號和惡意營銷。

黑灰產養號是指某些團伙通過批量發佈同質化的影視二次創作視頻，來迅速增加賬號的粉絲量。隨後，他們通過售賣這些賬號或發佈虛假營銷內容來獲利。在過去三個月內，治理團隊成功處置了超過100萬個黑灰產養號賬號。

值得關注的是，小紅書明確指出，黑灰產團伙利用 AIGC 大模型批量生成同質化素材，或採取熱點跟風手段，通過超大規模矩陣養號，嚴重擾亂社區生態。

另外，黑灰產惡意營銷則是指這些團伙利用賬號兜售非法或灰色商品和服務。例如，提供幫助債務人逃避債務的 “逾期協商” 服務，或是僞科學的 “占卜玄學” 服務。此外，他們還會通過多個行業進行違規營銷，利用數千個黑灰產賬號發佈虛假、低質的營銷內容，影響社區的正常秩序。在旅遊和教育行業，他們打造 “素人人設”，並通過虛假內容引導用戶購買課程。

劃重點:

🔍3個月內，小紅書治理團隊共處置超過320萬個黑灰產賬號，包括401個10萬粉以上的賬號。

⚖️ 治理工作分爲黑灰產養號和惡意營銷兩大領域，重點打擊使用 AIGC 大模型生成同質化素材的行爲。

🚫 小紅書將繼續加強對黑灰產賬號的監管，以維護社區的良好生態。