某大国网信部门近日通报，已处置利用AI仿冒公众人物直播营销的违规账号1.1万余个，清理违规信息8700余条。手法并不复杂：AI换脸、语音克隆、固定模板批量生产，成本低到令人发指——克隆一条明星声音最低1.98元，定制一条完整带货视频也不过数十元至百元。被仿冒的多是国民度高、不太活跃于短视频平台的老艺术家，虚假视频被精准投送至家族群，利用中老年群体的情感共鸣完成“造谣—引流—变现”的闭环。事情就是这么个事情，荒诞程度却值得好好掰扯。
先看这条灰产链上都是些什么角色。
最上游是技术提供方，卖的是“AI换脸套餐”“语音克隆定制”，明码标价，童叟无欺，仿佛在菜市场卖白菜。他们大概觉得自己只是卖工具的，刀郎歌词里唱“我拿着刀，你拿着鞘”，至于刀最后砍了谁，那不关卖刀的事。中间是账号矩阵运营者，批量注册、批量发布、批量引流，一个人管几十上百个号，忙得像流水线上的包工头，只不过流水线上下来的不是螺丝钉，是一条条“老艺术家含泪推荐保健品”的短视频。再往下是商品端，保健品、养生课、五黑粉，成本五六块的东西套上“名人推荐”的光环，价格翻着跟头往上涨。平台呢，流量分发机制客观上给这些内容提供了曝光通道，算法不辨真假，只认互动——你转发得越起劲，它推得越勤快，堪称“帮凶不自知”的典范。
再看受害方。中老年群体，尤其是家族群里最活跃的那批退休老人。他们数字素养有限，但对熟悉面孔的信任是刻在骨子里的。你跟他讲“这是AI合成的”，他反问你“人家那么大个明星还能骗我?”——这种信任被灰产精准收割，转发一次不够，还要拉上老姐妹一起“支持老艺术家”。情感需求和健康焦虑双管齐下，钱包就这么瘪了下去。
治理方呢?网信部门在查，公安在打，平台在删，但灰产像韭菜，割一茬长一茬。说到底，这是一场“技术—情感—消费”的三重收割：掌握AI工具和流量运营能力的一方，对信息弱势、数字弱势的老年群体下手，收益向上游集中，风险向底层下沉。阶层关系的实质，不过是数字时代“割韭菜”的新版本——镰刀换了材质，韭菜还是那茬韭菜。
这件事的主要冲突是什么?一句话：AI技术滥用条件下，资本和灰产链条追求流量变现、利润最大化，与老年群体合法权益保护、社会基本信任秩序之间的对立。
主要冲突的主要方面在资本逐利和灰产运营一方。为什么?因为他们是主动方、发起方、受益方。AI换脸技术本身是中性的，语音克隆也不是天生用来骗人的，但资本为了利润最大化和成本最小化，硬是把一项高新技术用成了欺诈工具。1.98元克隆一条声音，数十元定制一条视频，这成本低到连小偷都觉得不体面——毕竟入室盗窃还得买把钳子呢。违法成本呢?账号封了再注册，视频删了再发，换个马甲继续干，收益风险比高得让正经生意人看了都沉默。
平台审核识别滞后、老年群体数字防御能力不足，是冲突发展的重要条件，但不是主要方面。打个比方，你家门锁不结实确实给了小偷可乘之机，但你不能因此说“主要怪锁”。主要怪的是那个撬锁的。
冲突的具体表现有多个。技术低成本与治理高成本之间的悖逆——灰产花几十块做一条视频，平台得投入多少人力物力去识别?流量变现冲动与内容真实性之间的背离——算法推荐机制天然偏爱高互动内容，而虚假名人视频恰恰最能激发中老年群体的转发欲。老年人情感信任与虚假名人形象之间的错位——你跟他讲技术原理，他跟你讲“我看他演了一辈子戏，能是假的?”灰产跨平台流动与监管属地化、平台分割治理之间的拉扯——这边封了号，那边换个平台继续播，监管追着跑，灰产笑着躲。
因此在该国的市场经济持续低迷下，流量竞争和变现压力加剧，正经生意不好做，歪门邪道就显得“性价比”格外高。与此同时，AI加速发展，换脸、语音克隆、批量生成视频的门槛和成本大幅下降，技术红利还没惠及普通人，先被灰产薅了个痛快。资本为利润最大化和成本最小化，不惜突破法律和道德底线，把AI技术用成了欺诈工具——这话听着像套话，但放在这件事上，每一个字都严丝合缝。
这不是简单的内容乱象，而是AI条件下诈骗的新阶段。技术门槛更低——不需要懂编程，买个套餐就行;伪装性更强——AI换脸后的老艺术家比你记忆中的还真;传播更精准——家族群定向渗透，熟人社交链天然自带信任背书;收割更隐蔽——不直接要钱，用“带货”的外壳包装，老人花了钱还以为自己在支持偶像。传统诈骗还得打个电话冒充公检法，现在连电话都省了，一条视频发进家族群，老人自己就把钱包掏了。
所以治理的指向也很明确：平台得把识别处置责任扛起来，不能光删帖了事，得从技术对抗技术;违法成本得往上提，罚到灰产觉得“这买卖不划算”为止;老年群体的反诈教育得跟上，别光讲“不要转账”，得告诉他们“你看到的明星可能只是一堆代码”;跨平台协同治理机制得建起来，不能让灰产打一枪换一个地方。然而只要资本仍然存在，这些诈骗就无法根除，它总会如地老鼠一样出现。
欢迎扫描下方二维码，订阅乌有之乡网刊微信公众号
