利用AI生成图片塑造“单亲妈妈陪读”人设进行色情导流，黑产团伙4人被刑拘，今年以来已处置1.4万个AI生成色情低俗类账号

抖音严打AI生成色情低俗类违规内容，今年以来已处置1.4万个账号

3月10日，据抖音黑板报：近期，平台发现部分违规用户通过AI生成“单亲妈妈暧昧互动”“美女魅惑舞蹈”等低俗擦边内容，违反《抖音社区自律公约》。平台坚持从严从重处置。今年以来，针对AI生成色情低俗类违规，平台已处置4.2万条内容，对1.4万个账号处以限制推荐、禁言、封禁等不同梯度的处罚。

部分典型案例如下：

利用AI生成图片塑造“单亲妈妈陪读”人设进行色情导流，黑产团伙4人被刑拘

平台巡查发现，一批账号利用AI生成“单亲妈妈陪读”人设的内容，通过发布性感擦边视频并配以性暗示文案，诱导用户关注。平台经深度研判与线索挖掘，发现背后疑似有黑产团伙操控，该团伙通过账号签名、群聊等方式，诱导用户跳转至第三方平台下载色情低俗 App。平台立即清理违规内容、无限期封禁相关账号，并收集线索上报至公安机关。最终，该黑产团伙4人被依法刑事拘留。

利用AI生成美女图片引导用户至收藏页进行色情导流，339个账号被处置

用户“AI

说”“一

北”“冰**式”等用户，通过将直播间封面设置为AI生成美女图片，但在头像图片中配“看我收藏”等字样，引导观众查看其主页收藏，进而为色情网站导流。平台已清理相关违规内容，并对相关账号无限期回收直播权限。

持续发布AI生成着装暴露的擦边内容，8421个账号被处置

用户“奇

蓝”“一

差”利用AI生成着装暴露的女性形象，持续发布高空劈叉、魅惑舞蹈等动作；用户“哦

哦”“j

g”持续发布多条AI生成聚焦私密部位的女性“泳池度假照”“海滨度假照”擦边信息；平台已清理相关违规内容，并对相关账号采取限制推荐、禁言、封禁等梯度处罚。

利用色情低俗信息为色情网站导流、售卖淫秽色情物品等行为，违反《中华人民共和国刑法》《网络信息内容生态治理规定》等相关法律法规，涉嫌非法利用信息网络罪、传播淫秽物品罪。对相关违法行为，抖音将主动上报公安机关。

抖音也将不断升级治理技术和治理手段，提升对利用AI技术生成不良内容的发现、识别和处置能力。抖音也在此提醒广大创作者及用户，自觉遵守法律法规及平台规则，与平台共同抵制各类色情低俗、违规导流行为，维护健康的网络环境。如发现相关违规内容可拨打抖音官方服务热线95152，或发送至举报邮箱 feedback@douyin.com，我们将及时跟进处理。

小红书公告打击AI托管类账号

3月10日消息，小红书薯管家发布公告称，小红书坚定维护社区的真实底色，严格禁止任何利用技术手段模拟真人、进行非真实内容创作或虚假互动的行为，将对采用AI托管模式运营的账号进行治理。同时呼吁用户在创作过程中合理使用AI工具，如发现疑似AI托管账号或相关内容，请第一时间通过举报按钮向平台反馈。

以下为公告全文：

近期，平台发现部分用户采用AI托管模式运营账号，通过技术手段自动生成内容、发布笔记，并在评论、私信、群聊等场景中模拟真人互动。

数以亿计的用户在小红书平台上分享自己的生活经验，每一次真实的记录、每一次真诚的交流，共同构成了社区温暖的底色。因此，平台严格禁止任何利用技术手段模拟真人、进行非真实内容创作或虚假互动的行为。

即日起，平台将对AI托管类账号实行以下治理措施：

1、对于普通账号偶发使用AI托管代写、代发笔记或进行互动，平台将根据违规程度，采取警告、限制内容分发等梯度处理措施。

2、对于直接通过AI托管工具注册、发布、互动的账号，或主页所有公开笔记均为AI托管代发的账号，平台将予以封禁处理。

我们呼吁用户在创作过程中合理使用AI工具，坚持由真人分享真实经历与感受，共同守护社区的真实底色。

如发现疑似AI托管账号或相关内容，请第一时间通过举报按钮向平台反馈。