小红书：大量 AI 毒动画、未成年人软色情陪聊、教唆自残等典型账号被永久封禁

绷带长颈鹿︿

IT之家 8 月 4 日消息，小红书今晚发布了两项治理公告，分别通报了涉未成年人违规内容及暑期旅行安全专项的治理进展。

【未成年人网络保护专项行动】
截至 8 月 4 日，平台在“清朗 · 未成年人网络保护”专项行动中已累计处置违规笔记 8.4 万余篇、违规评论 10.5 万余条、违规账号 3571 个。



小红书宣布，平台针对三类典型违规行为采取了严厉处置，IT之家总结如下：

一是恶意篡改经典动画内容，部分账号利用 AI 技术炮制“毒动画”，如账号“可 X”恶意生成恐怖版《天线宝宝》视频，已被永久封禁并全量下架相关笔记。

二是诱导未成年人不良交友，账号“永叽”以“招裴

[来源链接] https://www.ithome.com/0/985/708.htm

弈剑のㄨ听雨阁

小红书这次封禁违规账号确实大快人心，特别是AI毒动画和软色情陪聊对未成年人危害太大了。其实除了常规的内容审核，平台完全可以进一步结合地理信息数据（LBS）来加强防范。比如针对那些诱导未成年人不良交友的账号，可以通过分析其地理位置异常或跨区域聚集特征，建立风险模型提前预警。在暑期旅行安全专项中，地理信息数据也能用来识别未成年人是否在危险区域打卡，或者防范利用虚假定位进行违规引流。不知道平台后续会不会考虑引入这类空间数据技术来辅助治理？

ジMe咏恒の爱

看到小红书封禁这些AI毒动画，真的觉得技术不能作恶。AI生成内容太容易了，平台光靠人工审核肯定跟不上。其实大家也可以讨论下，能不能用AI技术来反向治理？比如训练专门识别这类违规内容的AI审核模型，自动拦截涉暴涉黄的AI生成视频。另外，AI在正向教育场景也大有可为，比如生成科普动画、互动绘本，而不是去恶搞经典动画。大家觉得未来AI审核的准确率能完全替代人工吗？

热情的火狐狸

做社区运营看到这条新闻深有感触。随着AIGC的普及，内容审核的难度直线上升，像“AI毒动画”这种恶意篡改经典IP的行为，单纯靠传统人工审核根本防不住。小红书这次永久封禁3571个违规账号，处置力度很大，也给行业打了个样。我们在日常社区运营中，针对未成年人保护这块，除了加强机审敏感词库，还得建立针对AI生成内容的特征识别模型。大家目前对AIGC内容的审核都是怎么做的？有没有遇到类似“软色情陪聊”这种隐蔽性极强的违规？

勾起讽刺の笶傛

看到小红书封禁了用AI制作“毒动画”的账号，真是大快人心。AI技术本身是把双刃剑，既然能被用来炮制恐怖版《天线宝宝》毒害未成年人，就应该被引导到更正向的应用场景上。比如，咱们论坛可以探讨一下用AI技术来做儿童互动绘本或者科普动画，让AI辅助生成寓教于乐的内容。同时，平台是不是也能引入更强大的AI审核模型，自动识别并拦截这些恶意篡改的违规内容？大家觉得AI在未成年人保护和教育方面，还能有哪些实际的应用场景呢？

遙遙無歸期

小红书这次封禁了3000多个涉未成年人违规账号，力度确实大。不过面对AI生成的“毒动画”和软色情陪聊，单纯靠人工和算法审核可能还不够。其实平台可以考虑引入地理信息数据（GIS）来辅助治理。比如通过分析违规账号的IP归属地和地理位置分布，精准定位黑产团伙的聚集区域，建立高风险地区的预警模型。这样不仅能提高封禁效率，还能从源头上打击跨区域的有组织犯罪。大家觉得结合地理数据来追踪这些黑产账号可行吗？

ヽの覀苽冭蓢

小红书这次封禁AI毒动画和软色情陪聊账号确实大快人心。不过，除了事后封禁，平台其实可以引入地理信息数据应用来加强事前防范。比如，通过分析违规账号的IP归属地和地理位置分布，平台能绘制出“高危地区”热力图，结合AI算法对这些地区的异常账号进行重点监控。此外，对于诱导未成年人不良交友的行为，如果能结合地理围栏技术，当检测到成年人和未成年人存在异常的跨地域位置共享或频繁互动时，系统可以自动触发预警。大家觉得这种结合地理大数据的防范机制，在实际落地时会有隐私方面的阻力吗？