“AI大战AI”的戏码，在直播电商行业上演了。
近期，“同一明星在多个直播间同时出现”的现象引发热议。今年以来，有多个直播间同时出现演员温峥嵘的影像，但并非由她本人出镜，要么是AI合成的虚假直播，要么是盗播、录播的过往片段。
据央视11月5日报道，温峥嵘自曝刷到AI假冒自己的直播间，上前质问竟立马被拉黑。温峥嵘说，“我现在就很难证明我是我。”11月7日，抖音平台公布专项治理结果，下架多个违规视频，处罚多个违规账号，事情告一段落。
温峥嵘并非个例，多位多公众人物发现，自己的形象正在被批量复制、24小时不间断地出现在陌生直播间里。
近年来，生成式人工智能技术迅速成熟，AI 数字人、语音克隆、图像合成等手段被广泛用于电商直播和短视频带货。与此同时，围绕这些技术出现了大量违规、欺诈和监管挑战，形成了“AI带货乱象”。
AI主播，一开始是作为“平替”出现，比如品牌类账号利用AI主播缩减成本、降低真人舆论风险，或是真人主播自己休息、下播后，以AI主播作为替补，以获取更多观看量。但如今，“AI带货”似乎走向了违法的极端。AI带货到底有没有价值?AI主播技术的合理使用边界又在哪里?
温峥嵘遭遇“AI盗播”
11月5日，温峥嵘在抖音以“我是真的温峥嵘”为主题多次直播，讲述遭遇AI仿冒的经历。
次日，抖音集团副总裁李亮回应称，经核查后发现，被媒体曝光的“三个直播间同时冒充温峥嵘”的案例并未发生在抖音平台。但平台确实在排查中发现确实存在利用AI技术仿冒名人进行带货的短视频内容。并重申，抖音电商严禁使用AI技术仿冒他人（包括军警等特定身份）进行带货营销，此类行为属于严重侵权行为。
公开报道显示，温峥嵘的团队曾一天举报50个假冒账号，但"封一个、冒一个"的拉锯战让维权陷入困境。最终，据抖音电商安全与信任中心，平台通过专项治理，共处置下架温峥嵘相关仿冒侵权的视频1万余条，其中带货类视频6900余条，并对37个违规账号予以处罚。
抖音公布处罚结果
实际上，早在2025年4月，温峥嵘就曾发布视频打假，揭露部分直播间冒用其形象进行带货，称这些直播间多为AI合成，盗用其过往直播素材。“早在4月之前，就（有人）说我出现在多个直播间，同一时段，妆发不同，不同的产品，说着同样的话。” 她在采访中说道。
温峥嵘事件暴露了AI技术发展中的法律滞后性。虽然《民法典》《个人信息保护法》等法律法规已对相关权利作出规定，但面对AI技术的快速发展，法律规制仍显不足。
AI带货乱象
AI换脸技术原本被寄予厚望，它能够弥补真人主播不在场的空档，大幅降低人力成本。
今年6月，罗永浩数字人在百度电商的一场直播吸引超1300万人次观看，GMV突破5500万元，创下数字人直播带货新纪录。这种“头部主播+AI”的模式展示了技术的正面潜力。罗永浩本人也感叹:“如果没有数字人，这得把我累成啥样!”（点此查看:一场直播卖了5500万，数字人“取代”罗永浩?）
然而，科技发展的另一面却是乱象丛生。
据媒体报道，AI换脸盗播已形成一套成熟的黑灰产链条。常见套路包括以下三种:
首先是假冒他人形象（大多是名人/专家），不法分子通过 “克隆”形象和声音进行带货。
技术门槛大幅降低是事件爆发的关键因素。由于AI技术的快速发展，现在仅凭一张照片即可生成完整带货视频，真假难辨。在某二手交易平台上，人脸识别、代做视频、人脸信息提取业务仅售30元，卖家还强调用户需确保素材不侵权，试图撇清法律责任。有卖家公开宣称:“只需提供一段有清晰人脸和声音的视频，就可以在短时间内生成一个和原视频相似的新视频，说话的内容可以自行编辑文本。”
今年年初，在社交平台上，有博主利用AI仿冒奥运冠军全红婵的声音卖土鸡蛋;在某视频博主发布的视频中，张文宏医生强烈推销一款蛋白棒，让不少网友信以为真，一时销量近1200件。张文宏随后作出回应称，视频是AI合成的，“我在发现这事后立即投诉过那个AI合成的视频，但是它的账号一直在换，自己最后也没精力了。这些假的AI合成信息就像蝗灾一样，一次又一次发生，像漫天飞过来的蝗虫一样害人”。
图源:央视新闻
对于被冒用的名人而言，维权之路困难重重。演员温峥嵘发现被AI盗播后，在评论区质问反而被拉黑。
其次是打造虚拟人设进行欺诈或是情感营销。
一些商家用AI技术打造“成功女企业家”“单亲妈妈”“知性美女”等数字人人设，利用特定人群的同理心直播带货。在保健品、药品、化妆品等领域，这些精心打造的数字人面向辨别能力弱的群体，大肆夸大产品功效，快速敛财。
第三是利用AI渲染技术制造商品假象。在服装行业，AI模特可以通过参数设置生成“九头身”“马甲线”理想化身材，并借助AI渲染技术消除衣服褶皱、增强光泽感，使廉价面料呈现昂贵质感。消费者往往收到实物后才发现上当受骗。
预防AI“赋能”变成AI“负能”
尽管乱象丛生，但AI数字营销仍具有革新传统电商模式的积极意义，赋能消费领域和销售环节，各平台在努力将AI技术引向提升购物体验的正轨。
比如:今年双11，淘宝“AI万能搜”能瞬间生成包含产品推荐、优惠组合和用户评价的完整攻略;京东的京小智客服可主动推送物流轨迹，并预判可能的售后需求;在服装电商行业，AI数字技术正通过数据挖掘、视觉算法和个性化推荐，提升关联销售水平。有的平台推出AI搭配和AI试衣间，帮助顾客生成多种穿搭方案，直接提升商品关联销售额。
从长远看，AI技术能否真正服务好电商行业，取决于能否构建起技术防控、规则约束、生态共治的立体治理体系。
在监管和法律层面，滥用“AI换脸”来带货的行为，已经被行政处罚，标志着AI技术监管进入实操阶段。
2025年6月，北京市海淀区市场监管局查处了某公司利用AI技术冒用央视知名主持人名义和形象的虚假广告案。该公司通过AI技术剪辑知名主持人视频，加入自行设计的口播内容，在自有网络视频账号上以短视频等形式发布普通食品“深海多烯鱼油”广告，宣称“可以解决头晕头痛、手麻脚麻、四肢乏力”等医疗功效，违反了《中华人民共和国广告法》相关规定，已接受行政处罚。这也是北京市场监管部门运用《中华人民共和国广告法》对滥用AI技术冒用知名人物形象发布虚假广告问题首度“亮剑”。
2025年9月起，《人工智能生成合成内容标识办法》正式实施，其中要求AI生成内容必须标明身份。内容标识主要包括显式标识和隐式标识两种形式，显式标识是指在生成合成内容或者交互场景界面中添加的，以文字、声音、图形等方式呈现并可以被用户明显感知到的标识;隐式标识是指采取技术措施在生成合成内容文件数据中添加的，不易被用户明显感知到的标识。
有专家呼吁，完善《广告法》《网络安全法》对AI合成内容的定义与责任追究，明确肖像权、声音权的侵权标准，建立统一的AI生成内容备案与溯源平台，提升跨部门协同监管效能。
对于内容和电商平台来说，随着AI合成质量逼近真人，监管技术也需同步升级。比如，采用多模态检测、区块链溯源等手段。目前，一些平台已升级检测技术，如专门的深度伪造鉴别模型，用于分析视频和音频中的不自然特征。专家指出，AI合成视频往往在面部细节上存在显著缺陷:微表情缺失、光影不匹配以及皮肤过于光滑。
最后，对于消费者而言，提高AI素养和辨别能力至关重要。
在看到名人或专家带货时，应在官方渠道确认其是否真实参与。比如，关注标识:平台若标注“AI生成”，应提高警惕;未标注的内容更可能是伪造;审慎消费，对保健品、药品类商品，尤其要核对是否具备合法批准文号，避免因虚假宣传导致健康风险;利用举报，发现疑似AI假冒带货视频，可直接在平台进行举报或向当地消保委投诉。
江苏省消保委建议，消费者应对异常低价、限时秒杀等促销产品保持理性，不盲目跟风。在选择短视频带货服务时，要仔细观察主播的微表情是否自然，声音与口型是否同步，是否出现人物或背景模糊、扭曲等异常画面。消费者应主动行使监督权，及时留存相关证据并通过正规渠道反馈，推动商家及时纠正违法违规行为。
AI带货的便利与创新不可否认，但当前的乱象已对消费者权益、市场秩序和名人形象造成多重冲击。只有监管部门、平台企业、内容创作者和公众四方协同，才能在技术快速迭代的背景下，构建一个既安全又健康的AI带货生态。