在AI尚未普及的年代，造假是灰黑产专属的“技术活”——需要专业设备、行业人脉，造假者隐匿在规则缝隙中，带着神秘又可怖的恶意，与普通人的生活保持着微妙的距离。但2024年以来，一场由生成式AI引发的造假革命，彻底颠覆了这一切。一台手机、一句提示词，就能让普通人变身“造假者”，而代价几乎可以忽略不计。
当作恶变得零门槛、零成本，虚假便开始渗透商业交易、信息传播的每一个角落。电商商家被AI假图薅走利润，企业被AI黑稿扰乱经营，普通人在真假难辨的信息海洋中迷失。更令人不安的是，原本该守护秩序的平台审核机制，却迟迟跟不上AI灰产的步伐，将维权的沉重成本，全盘压在了受害者肩上。
11月的电商圈，“AI假图仅退款”的话题炸了锅。毛绒玩偶商家于瑾的遭遇，成了无数中小商家的噩梦缩影。买家签收玩偶一周后，发来一张“受损证据图”申请仅退款——粉色玩偶沾满污渍，裙摆还有灼烧痕迹。客服团队一致判定是人为损坏，凭发货监控驳回申请，没想到买家直接申请平台介入，当天就成功拿到50元赔偿。
“正常退款都是开线、勾丝这类小问题，这次太反常了。”不甘心的于瑾反复查看图片，终于发现了破绽：柔软的裙边上，竟出现了类似陶瓷的坚硬裂痕。她找AI行业的朋友鉴定，得到的结论是“AI生成痕迹明显，纹理规整却违背物理逻辑”。带着鉴定结果申诉的于瑾，再次被平台驳回，50元退款稳稳落入买家口袋。
直到她把经历发到社交平台引发舆论关注，媒体介入后，平台才自掏腰包将50元返还给她。但这场维权让于瑾心力交瘁：“造假者只需要输一句提示词，花几十秒生成图片，就能薅走价值百余元的商品，后续还能挂二手平台倒卖。而我要找证据、找鉴定、反复申诉，最后还讨不到好，作恶成本几乎为零，维权成本却高到离谱。”更让她无奈的是，那笔已经退给买家的款项，始终没能追回。
于瑾的遭遇并非个例。“双11”期间，类似案例密集爆发，“AI假图仅退款”冲上热搜。键盘商家柑橘就遇到了更直白的造假——买家签收半个月后申请仅退款，提交的“受损图”构图、背景、光影，和此前发布的好评图一模一样，只是多了夸张的键帽开裂、变形痕迹。好在柑橘及时举证，平台才驳回了买家申请。
●上图为买家评价图，下图为AI假图。图源：受访者供图
让柑橘脊背发凉的是，从收件人信息来看，这位造假者不是老练的职业羊毛党，而是一名普通大学生。“以前羊毛党还有固定套路，是特定群体。现在不一样了，任何一个普通人，打开免费AI应用，输几句提示词，就能生成足以骗过平台的证据链。”这种变化让商家们防不胜防，更生出一种深深的无力感——你永远不知道，下一个向你“开刀”的，是不是一个毫无灰产背景的普通人。
如果说电商领域的AI造假是“薅羊毛”，那么内容领域的AI造假，就是更具破坏性的“信息轰炸”。公关人齐云从业十多年，从未想过自己会败给AI生成的谣言。半年前，他服务的上市公司被一篇公众号黑稿攻击，文中细节离谱到令人发指：一会儿说董事长办公室挂着K线图，一会儿编造财务总监的不实言论。
“我们董事长办公室根本没有K线图，财务总监的名字都不对。”齐云说，以前应对负面稿件，是基于事实的智力博弈，哪怕观点对立，至少有讨论的基础。但面对AI黑稿，他只觉得智商受到侮辱——这篇可能只花几十秒生成的文章，让他和同事耗费了整整两天时间举证申诉。
第一次提交加盖公章的投诉函，被平台驳回;第二次只能逐字逐句拆解虚假信息，逐一举证：不仅要说明财务总监的真实姓名，还要附上交易所公告的签名截图;面对“董事长办公室有K线图”的谣言，甚至要纠结“要不要拍办公室照片佐证”，可即便拍了，又怎么证明照片的真实性?“造谣的人动动嘴，辟谣的人跑断腿，还要反过来给造谣者‘提供证据’，这太荒谬了。”齐云的语气里满是愤懑。
更让他绝望的是，报警、起诉这条路基本走不通。他服务的上市公司法务部只有六七个人，而AI黑稿像潮水一样涌来，“一个一个走起诉流程，要走到猴年马月”。这种失控感，最终让他心灰意冷地选择了转岗。“以前做公关，是和人沟通、做品牌维护;现在整天琢磨怎么跟平台打交道，怎么总结投诉技巧，怎么利用算法限制黑稿传播，这根本不是我当初入行想做的事。”
齐云的困境，根源在于平台审核机制与AI造假节奏的严重脱节。如今社交平台对AI生成内容的管理，仍停留在“打标签”的初级阶段——仅对上传的AI图片、视频标注提示，而用户上传的AI文字内容，完全处于管理真空。即便有AI文字检测工具，也存在大量误判，在毕业季的学术论文检测中早已引发争议。
更可怕的是，AI已经把造假门槛降到了与好奇心齐平的位置。2024年6月，央视就报道过某MCN机构利用AI软件，日均生成4000-7000篇假新闻流量变现，日收入超1万元;而上个月底，小鹏汽车广州车展展台的低俗色情视频在网上传播，画面与真实展台无缝衔接，最终警方确认是男子李某用AI生成“炫耀技术”，并非真实事件。
这些案例背后，是一条成熟的AI造假利益链：有人用AI黑稿倒逼企业投放广告，有人用AI生成的“内幕消息”引流卖课，有人靠AI假图薅商家羊毛倒卖获利。而AI助手本身，也成了帮凶——当用户问“能不能让橙子看起来坏了”，它会熟练地加上霉斑，还主动询问是否需要配套视频，完全意识不到自己在协助作恶。
生成式AI爆发的三年里，我们见证了技术带来的创造力红利，却也目睹了它催生的黑暗面。以前，造假是少数人的恶意选择;现在，造假变成了低成本、低风险、高收益的“捷径”，连普通人都可能因为“好奇试试”“反正不会被惩罚”的心理，无意间成为虚假信息的制造者。
当一张假图、一段假视频、一篇假文章都能被轻易生成，当违法与守法之间只剩下一句提示词的距离，“能不能”与“该不该”的边界开始模糊。真伪不再由事实定义，而由人心决定;原本该由技术解决的问题，被悄悄转嫁给了每一个受害者。
于瑾仍在经营着自己的玩偶店，只是多了个习惯——收到退款申请先让AI鉴定图片;齐云转岗后远离了公关行业，但还有无数公关人在和AI黑稿死磕。AI抹平了造假门槛，却没能建立起与之匹配的秩序。在这场真实与虚假的博弈中，我们需要的不只是更先进的AI检测技术，更需要让作恶者付出代价、让受害者不再孤立的规则体系。否则，人人皆可作恶的阴影，终将蔓延至每一个角落。
(文中受访者皆为化名。)
本文来自微信公众号： 镜相工作室 ，编辑：卢枕，作者：镜相作者