“以前觉得造假是灰黑产的专属，得有技术、有人脉、有设备，离普通人很远。直到AI把造假变成‘手机点几下’的事，才发现虚假与真实的边界，早已模糊到一碰就破。”毛绒玩偶商家于瑾的感慨，道出了今年无数从业者的共同境遇。
生成式AI爆发的三年里，技术突破带来的不只是创作的便利，更悄然改写了造假的底层逻辑。当一台手机、一句提示词就能生成以假乱真的图片、文字、视频，当造假从“高门槛专业操作”沦为“零成本随手之举”，羊毛党、普通大学生、逐利MCN机构纷纷涌入这片“灰色地带”。与之相对的，是滞后的平台审核机制、高昂的个体维权成本，以及逐渐被虚假信息侵蚀的信息生态——这不是少数人的恶意狂欢，而是一场裹挟着每个人的时代困境。
11月的电商圈，“AI假图仅退款”的话题持续发酵，于瑾的遭遇成了无数商家的缩影。买家签收玩偶一周后，一张“粉色玩偶沾满污渍、裙摆灼烧破损”的图片，伴随着仅退款申请传到客服手中。团队一致判定为“人为损坏”，依据发货监控驳回申请，却在平台介入后被强制扣款50元。直到同事一句“图越看越怪”，于瑾才惊觉异常：柔软的毛绒裙摆上，竟出现了类似陶瓷的规整裂痕，完全违背物理逻辑。
AI从业者朋友的鉴定、AI助手的提示，都印证了“图片经AI修改”的结论。但当于瑾带着完整证据申诉时，平台却再次驳回。最终，还是靠社交平台发声引发媒体关注，才由平台垫付拿回了50元。可造假的买家早已销声匿迹，167元买入的玩偶，既能拿回50元退款，还能以179元的价格在二手平台倒卖——“零风险、高收益”的示范效应，远比50元的损失更让商家不安。
更让于瑾崩溃的是造假的“低门槛”：“不用懂任何技术，随便找个免费AI工具，上传图片说一句‘让这个玩偶看起来破损严重’，就能生成足以骗过平台的证据。作恶成本几乎为零，被发现了也不会有任何惩罚。”这种无力感，在半个月后键盘商家柑橘的经历中再次重现。只不过这一次，造假者的身份更加清晰——一位普通大学生。
柑橘收到的退款佐证图，构图、背景、光影和买家三天前的好评图完全一致，只是键帽被AI修改得“开裂、变形、污渍遍布”，破绽显而易见。幸运的是，平台驳回了这次退款申请，但柑橘的焦虑并未缓解：“以前面对的是有套路的职业羊毛党，现在连毫无灰产关联的大学生都能随手造假，我们根本防不胜防。”
● 上图为买家评价图，下图为AI假图。图源：受访者供图
电商平台的AI造假乱象，只是冰山一角。当AI在文、图、音、视频四大领域全面成熟，过去需要专业团队才能完成的造假，如今成了人人可上手的“轻量操作”。公关人齐云的转行，就源于这场无法对抗的“AI谣言轰炸”。
半年前，齐云服务的上市公司被一篇AI生成的黑稿攻击。文章以“正经新闻”的口吻，编造了“董事长办公室挂K线图”“财务总监发表不实言论”等细节，离谱却足以引发讨论。为了删除这篇仅用几十秒生成的黑稿，齐云和同事耗费了整整两天：第一次提交加盖公章的投诉函被驳回;第二次必须逐字逐句举证反驳——说财务总监姓名不实，要附上交易所公告的签名截图;说办公室没有K线图，竟要纠结“如何证明一张不存在的图确实不存在”。
“你造我的谣，我还要反过来给你提供证据自证清白。”齐云的愤懑里满是无奈。更现实的是，公司法务部仅六七人，面对漫天飞舞的AI黑稿，起诉、报警的流程根本走不完。他曾天真地以为，技术公司理应具备识别AI生成内容的能力，但现实是，平台的审核机制还停留在“简单比对、打标签”的初级阶段。
目前，主流社交平台对AI内容的管理存在明显真空：图片、视频可附“AI生成”的小字提示，但文字内容除平台内置工具生成的部分外，均无法标识来源。即便是学术领域的AI内容检测，也因高误判率饱受质疑。当AI能秒产“重大利好/利空”的假截图、日均生成数千篇博眼球的假新闻，当MCN机构靠AI批量生产低质内容流量变现、日入万元，高质量的真实信息正在被海量虚假内容淹没。
这种信息生态的失衡，最终压垮了从业十多年的齐云。“以前面对负面稿件，是基于事实的智力博弈;现在面对AI编出来的荒诞谣言，只觉得智商被侮辱，却连反驳的方向都找不到。”他最终选择转岗——一个本该专注于品牌沟通的公关，却不得不整天琢磨“如何写投诉函才能被平台采纳”“如何利用算法限制谣言传播”，这早已偏离了职业的初衷。
齐云的转身还算幸运，更多受害者只能在“高维权成本”与“低造假成本”的夹缝中挣扎。AI助手不会认为“给橙子加霉斑”“给商品做破损效果”是协助造假，反而会主动提供配套视频;平台把本该由技术解决的识别问题，转嫁给需要逐字举证的个体;而“反正不会怎样”的心理，正在让越来越多普通人跨过“该不该”的道德边界，试探“能不能”的技术可能。
● 图为AI生成的食物变质照片。图源：豆包App生成
当造假的门槛降到与好奇心齐平，当违法与合规之间只剩下一句提示词的距离，我们面对的就不只是个体的损失，而是整个社会信任体系的侵蚀。小鹏汽车广州车展的低俗AI假视频、MCN机构的批量假新闻、大学生的AI退款造假……这些案例都在警示：AI打开的潘多拉魔盒里，最可怕的不是技术本身，而是技术让“恶”变得如此轻易。
或许我们无法阻止技术的迭代，但至少该追问：当AI重构了造假的逻辑，平台的审核机制、监管的应对策略、个体的维权渠道，是否也该跟上时代的脚步?当“真伪的界限由人心决定”，我们又该如何守住真实的底线?毕竟，一个被虚假裹挟的世界，没有真正的赢家。
(文中受访者皆为化名。)
本文来自微信公众号：镜相工作室，作者：黄依婷，编辑：卢枕