AI换脸技术滥用引发乱象，名人频遭冒用，社会困扰调查

近期AI换脸技术滥用现象严重，不少名人频遭冒用困扰，调查揭示，不法分子利用AI技术伪造他人面部信息，侵犯个人隐私和权益，这种现象不仅误导公众，还可能被用于非法活动，造成恶劣影响，呼吁社会各界共同关注，加强监管，规范AI技术使用，避免滥用乱象继续蔓延。

演员温峥嵘在浏览短视频时，意外发现“自己”正在直播。她在评论区提出质疑后，被拉黑并踢出直播间，而对方仍在用她的脸进行直播带货。近期，温峥嵘遭遇的“冒牌直播”事件是AI换脸技术滥用的一个典型例子。多个直播间出现冒用温峥嵘形象的AI换脸带货行为，其团队每天举报约50个假冒账号并发出律师函，但造假账号仍屡禁不止，令她陷入“很难证明我是我”的困境。

这一现象并非孤例。调查发现，AI换脸与声音克隆技术已形成一条涵盖教程传播与定制服务的灰色产业链，对个人权益、平台监管等构成严重威胁。例如，主持人李梓萌的AI伪造形象出现在直播间，虚假宣传深海鱼油“能治病”；奥运冠军全红婵的声音被AI克隆，用于售卖土鸡蛋；医生张文宏被换脸，其形象被用于在直播间售卖某款蛋白棒产品，销量已过千。

中央网信办官方账号发文表示，有网络账号利用AI技术仿冒公众人物形象，在直播、短视频等环节发布营销信息，误导网民，涉嫌虚假宣传和网络侵权，严重破坏网络生态，造成不良影响。网信部门严厉处置一批违法违规网络账号，并督促网站平台发布治理公告，开展集中清理整治，目前已累计清理相关违规信息8700余条，处置仿冒公众人物账号1.1万余个。

AI换脸技术的滥用甚至延伸至刑事犯罪领域。2024年10月，江苏省南京市玄武区人民法院审理的一起案件中，被告人符某非法获取195万条公民个人信息，利用AI换脸软件生成动态人脸视频，成功突破某金融支付平台的人脸识别认证系统，盗刷银行卡进行消费。法院以侵犯公民个人信息罪、信用卡诈骗罪数罪并罚，判处符某有期徒刑4年6个月。同年，内蒙古鄂尔多斯一名消费者险些因AI换脸诈骗损失40余万元，幸亏警方及时介入，未造成实际损失。

记者调查发现，AI换脸与声音克隆的教程及服务在网络平台流通。尽管平台会弹出官方提示，提醒用户使用需合法合规，相关内容仍在网络空间大量存在。有些以“AI科普”为标签的账号公开分享换脸教程，详细列出可访问的网站地址，逐步演示操作流程，并附有技术细节说明。部分平台免费提供AI换脸或声音制作服务，支付几十元购买会员后还能解锁去水印、高清放大等进阶功能。

除公开教程外，更为隐蔽的交易正通过网盘渠道进行。一些打包出售的“完整教程”价格低至8元，卖家声称“没有市面主流软件那么多限制”。这类教程通常包括云端工作流地址资料和详细的操作说明，以及图片去AI化、舞蹈动作模仿、人脸精修等扩展功能与相关的提示词教学。声音克隆类的教程售价低至9.9元，并在宣传中强调“支持任何形象和声音”。

为验证此类教程的实际应用效果，记者购买了一份标价8元的换脸教程。该教程包含一段5分钟的视频教程和两份文字材料，明确提供了平台访问链接、新用户福利信息和操作步骤，并特别注明“对敏感词限制极少”“生成内容无水印”。记者实测使用一段时长5秒的视频进行换装操作，约3分钟后成功生成视频，画面中人物动作与神态还原度很高，被遮挡部位的服装贴合效果也较为自然、精准。

电商平台上，有商家为AI换脸服务披上伪装售卖。记者在购物平台搜索“AI换脸”，显示无任何结果，但部分商家会在商品详情页用表情符号隐喻其能提供换脸“服务”；也有商家以“啥都能做”“不限视频内容，懂的都懂”为宣传语，暗示私聊客服了解商品详情。记者了解到，10秒换脸视频报价从15元至300元不等，多数商家仅核查素材内容，对用途与来源未作甄别。

为深入了解AI工具自身的内容审核机制，记者对用户使用较多的10款文生图、文生视频AI工具进行实测，以对明星“一键变脸”等指令测试其技术边界与审核能力。结果显示，仅一款AI工具明确拒绝生成真实公众人物虚拟图像。部分应用在简单操作后即可生成高度逼真的明星虚假内容。值得注意的是，部分AI工具在首次接收到涉及真实人物的指令时会予以拒绝，但通过选择平台的替代选项或更换表述，用户仍可绕过初始限制，实现图片或视频生成。

有平台方公开回应称，AI内容侵权识别属于行业性技术难题，恶意仿冒账号在持续与平台进行技术对抗，未来会持续加大技术投入，积极应对挑战，维护创作者、商家及消费者的合法权益。