假明星频现：ai换脸引发信任危机
2025-12-04 14:30:10 来源：法治日报·法治周末
《法治周末》记者 吕静
视觉中国供图
“你是温峥嵘，那我是谁？”这句看似荒诞的话语，正出自演员温峥嵘之口。
此前，她公开控诉多个带货直播间擅自盗用其面部形象打造“假温峥嵘”，在镜头前卖力推销商品。而当温峥嵘本人亲自进入这些直播间，当面抛出这句直击核心的质问后，她竟被直接拉黑。
事实上，温峥嵘遭遇的ai换脸盗播并非个例。从央视知名主持人李梓萌，到备受关注的奥运冠军全红婵，再到北京协和医院知名专家，越来越多来自不同领域的公众人物，成为ai仿冒的对象。
“ai换脸”成部分商家的带货捷径
早在今年4月，温峥嵘就发现“自己”在同一时间段、不同直播间、妆发不同地进行直播带货。
她当时就发布视频声明称，最近发现很多账号冒充自己，自己只有一个账号，并未授权其他账号带货，并号召粉丝举报盗播直播间。
一名温峥嵘的粉丝表示，自己在一天之内一连举报了18个伪造温峥嵘的直播间，但“根本举报不过来，举报一个又新增一个”。
还有商家伪造刘涛、张柏芝、舒淇等多位明星的ai形象，站台某品牌面膜，制造“众星捧场”的虚假营销场面。虽然这些视频里的声音听起来很像明星本人，但是口型很明显对不上，这些广告视频内容已经被不少人打假。
演员张馨予也在今年4月发布微博称，发现有品牌用ai复制声音的方式，未经授权剪辑投放减肥广告，伪造出她为某款减肥产品代言的假象。
今年8月，还有博主利用ai克隆奥运冠军全红婵的声音推销土鸡蛋。孙颖莎、王楚钦同样遭遇了声音被“克隆”后直播带货的境况。
11月17日，话题#医生被ai换脸卖洋葱减肥食谱#登上微博北京同城榜，截至发稿，该话题阅读量已超347.5万。据了解，“营养专家”出镜推荐的“独家减肥食谱”，不少消费者信以为真，纷纷下单购买。事实上，这类所谓“营养专家”实际上是北京协和医院的知名专家被ai换脸。
在上述案例中，不少消费者误将ai仿冒的公众人物形象当成本人，进而因信任其“推荐”而下单购买商品。这种无需投入高额合作成本、却能快速收割流量与销量的方式，已然成为部分商家的带货捷径。
《法治日报》律师专家库成员、北京市康达律师事务所合伙人罗娟告诉记者，滥用ai换脸、声音克隆主要涉及民法典第一千零一十八条（肖像权保护）、第一千零二十四条（名誉权保护）。未经同意商用他人肖像、声音，直接侵犯肖像权；若生成内容虚假误导（如虚假代言、不当言论），会损害他人名誉权。
记者在社交平台发现，此类ai换脸视频仍有不少，此类短视频并未有相关ai标识。中国政法大学数据法治研究院教授张凌寒指出，商家去除ai标识，本质上是一种恶意的技术规避行为，旨在破坏“用户可感知、机器可识别”的信任机制。这种行为不仅剥夺了公众的知情权，更直接破坏了监管的可追溯性。所谓的“免责声明”在法律上属于无效的单方格式条款。
技术门槛降低带来的监管难题
为何ai换脸的不法商用现象频频出现？
张凌寒指出，从技术层面来看，随着深度合成技术的快速迭代和开源工具的普及，大模型大幅降低了图像、音频与视频生成的门槛，使得不具备复杂技术背景的用户也能通过简单步骤生成高逼真内容。这种技术门槛的“下沉”直接导致了风险的“上浮”。与此同时，在利益层面，不法商家借助名医、名人等公众人物的形象和流量进行虚假宣传和直播带货，能够迅速获取公众的信任和关注，实现低成本引流和高效率变现。最后，监管机制的滞后性为不法行为提供了可乘之机。不法分子可以通过多账号发布、镜像翻转、画中画遮挡等方式规避平台的内容审查和标识要求，且其手法不断变化，导致平台和监管机构难以实时、有效地识别和拦截。
针对利用ai技术冒充专家、学者、明星、网红等公众人物或者打造“虚假人设”进行广告宣传的新型违法行为，监管部门已经在进行查处。
今年6月，北京市海淀区市场监管局查处了某公司利用ai技术冒用央视知名主持人李梓萌名义和形象的虚假广告案。北京市海淀区市场监管局认为，该公司通过ai技术剪辑含李梓萌形象的视频，加入自行设计的口播内容，在自有网络视频账号上以短视频等形式发布普通食品“深海多烯鱼油”广告，宣称“可以解决头晕头痛、手麻脚麻、四肢乏力”等医疗功效，违反了广告法相关规定，对其进行行政处罚。这也是北京市市场监管部门对滥用ai技术冒用知名人物形象发布虚假广告问题的首度“亮剑”。
11月14日，中央网信办官方账号发文表示，有网络账号利用ai技术仿冒公众人物形象，在直播、短视频等环节发布营销信息，误导网民，涉嫌虚假宣传和网络侵权，严重破坏网络生态，造成不良影响。网信部门严厉处置一批违法违规网络账号。同时，督促网站平台发布治理公告，举一反三，开展集中清理整治，目前已累计清理相关违规信息8700余条，处置仿冒公众人物账号1.1万余个。网信部门将继续对利用ai仿冒公众人物开展直播营销问题保持高压严管态势，对恶意营销账号，发现一批、处置一批、曝光一批，维护良好网络生态。
张凌寒认为，由于生成式ai具有极强的跨国界、系统性与隐蔽性特征，对ai换脸不法商用行为的监管并不容易。一方面，大量开源工具使得源头管控变得极度分散；另一方面，面对海量生成的服务提供者，特别是中小企业，监管部门难以确保其均能低成本、高效率地落实标识要求。此外，监管手段往往滞后于技术变化，现有的基于主权国家的传统治理机制难以有效应对这种快速迭代的全球性技术风险。
平台负有主动审核与动态监管义务
为整治这类ai换脸乱象，政策法规也在不断完善。
9月1日，国家网信办、工信部等部门联合发布的《人工智能生成合成内容标识办法》正式实施，明确要求ai生成内容添加显著标识，为治理提供法律依据。
张凌寒指出，我国在政策法规方面已实现从原则性规范向精细化规制的跨越。尤其是《人工智能生成合成内容标识办法》的出台，标志着治理完成了从“0”到“1”的制度突破，首次系统构建了显式与隐式标识并行的全生命周期治理框架。同时，我国提出的《全球人工智能治理倡议》等文件，也展现了在国际治理中从参与者向引领者的转变。
然而，未来的监管难点依然在于“落地”与“协同”。一方面，轻量化、抗攻击性强的数字水印等技术标准仍待统一和引进，标识的识别精度需进一步拓展；另一方面，如何协调好发展与安全，在不扼杀中小企业创新活力的前提下，推动平台建立有效的审核与联动处置机制，实现“未标识、不推送”的治理闭环，仍是一项长周期的系统工程。
罗娟表示，在现行的监管政策下，平台负有主动审核与动态监管义务，需建立ai生成内容识别机制，对换脸、克隆教程及交易信息主动筛查，设置显著举报通道。依据电子商务法第三十八条，若平台未履行审核义务导致侵权扩大，需承担连带责任；若平台未履行审核义务，导致侵权行为发生或扩大，需承担连带赔偿责任；若明知用户利用平台实施侵权仍提供帮助，可能构成共同侵权，情节严重还可能触犯刑法，并承担刑事责任。
责编：肖莎