字数 1261，阅读大约需 7 分钟
小红书重拳出击：严打黑灰产团伙AIGC矩阵养号行为
近日，小红书发布的“黑灰产账号治理阶段进展公告”引发广泛关注。在人工智能与社交媒体生态联系日益紧密的当下，该公告揭示了黑灰产利用AIGC大模型进行大规模矩阵养号对平台生态造成的严重破坏，以及小红书维护社区健康环境的坚定决心。
惊人数据：三个月处置超320万黑灰产账号
根据公告，过去短短三个月内，小红书“薯管家”团队展现强大治理能力，共计处置超过320万黑灰产账号。其中，10万以上粉丝的账号达401个，1万以上粉丝的账号有9215个。如此庞大数字，表明黑灰产账号在小红书社区已形成不可忽视的影响力。
艾瑞咨询发布的《2023年中国社交媒体平台黑灰产治理研究报告》指出，社交媒体平台上黑灰产账号不仅影响用户体验，还可能导致平台商业价值受损。例如某大型社交平台，因黑灰产账号泛滥，广告点击率下降15%，用户活跃度降低10%，充分说明黑灰产账号对平台生态负面影响之大。
两大治理领域：养号与恶意营销
小红书透露，此次治理黑灰产账号工作主要聚焦黑灰产养号和恶意营销两个关键领域。
黑灰产养号：这是黑灰产团伙常用手段，他们通过批量发布同质化影视二次创作视频等方式迅速增加账号粉丝量。过去三个月，治理团队成功处置超100万个黑灰产养号账号。随着AIGC技术快速发展，黑灰产团伙利用AIGC大模型批量生成同质化素材，效率更高、成本更低。相关技术研究机构分析，使用AIGC大模型生成素材成本相比传统人工方式降低约70%。这些团伙还采取热点跟风手段，通过超大规模矩阵养号严重扰乱社区生态。比如，当某个热门话题出现，大量由AIGC生成内容的账号会迅速涌入，发布相似内容抢夺流量。
从技术角度，AIGC大模型基于深度学习算法，能快速生成文本、图像甚至视频内容。黑灰产团伙利用其高效性和自动化特点，实现大规模养号操作，严重违背社交媒体平台鼓励原创、真实内容的初衷。
恶意营销：除养号外，黑灰产恶意营销也是一大问题。这些团伙利用账号兜售非法或灰色商品和服务，如提供帮助债务人逃避债务的“逾期协商”服务，或是伪科学的“占卜玄学”服务。他们还在多个行业进行违规营销，利用数千个黑灰产账号发布虚假、低质营销内容。以旅游和教育行业为例，打造“素人人设”，通过虚假内容引导用户购买课程。Trustdata发布的《2023年中国互联网黑灰产洞察报告》显示，在旅游和教育行业，因黑灰产恶意营销导致的用户投诉量同比增长25%。
技术与策略：小红书如何亮剑
面对黑灰产利用AIGC大模型带来的新挑战，小红书采取一系列先进技术手段和策略。技术层面，小红书利用自身人工智能算法，结合自然语言处理和图像识别技术，对内容进行多维度分析。比如，通过检测文本相似度、图像特征等，识别AIGC生成的同质化内容。同时，小红书建立庞大黑灰产账号数据库，归纳总结已发现的黑灰产账号特征，以便更快识别新出现的类似账号。
策略方面，小红书加强用户举报机制，鼓励用户积极参与社区治理，举报发现的黑灰产账号，一旦核实，给予举报人一定奖励。此外，小红书与行业内其他平台以及相关监管部门展开合作，形成联防联控机制。例如，与国内知名互联网安全公司合作，共同研发针对黑灰产的打击技术；与监管部门共享黑灰产账号信息，从源头打击黑灰产团伙。
