记者调查：换脸技术被滥用、误用

来源：法治日报 《你是温峥嵘，那我是谁？》演员温峥嵘本人在浏览短视频时，意外发现“他”正在直播。他在评论区提出问题后，就被屏蔽并被踢出了直播间。但对方依然用“他的脸”来保住带货的播出。温峥嵘近期遭遇的“假直播”事件，就是滥用AI换脸技术的典型例证。 11月14日，国家网信办官方账号发布声明称，部分网络账号利用人工智能技术模仿公众人物形象，以直播、短视频等方式发布营销信息，虚假破坏网络生态，造成不良影响。网信部门严肃查处了一批网络违法违规账号。同时，鼓励网站平台发布管理公告，一事一例提取信息，进行集中清理整顿。目前，已清理相关违法信息8700余条，查处假冒公众号账号11000余个。 《法治日报》记者近日调查发现，网络平台上流传着AI换脸、克隆声音的教程和服务。记者在各社交平台搜索“人工智能换脸”、“声音克隆”等关键词时，虽然平台均弹出官方提示提醒用户“合法合规，注意识别”“切勿诱惑，谨防诈骗”，但相关内容在网络空间中仍大量存在。例如，有大量标有“AI科普”的账号在各个平台公开分享换脸教程。这这些视频通常会详细列出可访问的网站地址，演示操作过程的过程，并包含技术细节。例如，建议用户“尽量保证替换素材的字符大小与原始素材一致，图像干净、不受干扰”，以保证生成的效果。根据教程中的指引，记者登录相关网站进行核实，发现部分平台无法提供免费的AI换脸或语音创作服务。支付几十元购买会员后，还可以解锁去水印、高清增强等高级功能。除了公开教程之外，更多隐藏交易是通过网盘通道进行的。记者注意到，一些“完整教程”打包售价不到8元，卖家声称“没有主流软件那么多限制”此类教程通常包含云工作流程地址信息和详细操作说明，以及图像脱爱、舞蹈动作模仿、人脸细化、相关文字指导等扩展功能。语音克隆教程的售价更是麻麻巴，9.9元，促销强调“支持任何图像和声音”。记者询问商家发现，只要购买这款安装包，就可以免费破解并使用口型同步、克隆声音等功能，无需付费。根据商家的描述，只需提供一个音频文件，系统就可以克隆一次，无需验证身份，并且没有次数限制。为了证明此类教程的实际应用效果，记者购买了一套售价8元的改版教程。n 材料，明确提供平台接入链接、新用户受益步骤和操作措施，并特别注明“敏感词限制极少”和“生成内容无水印”。记者发现，该平台提供了多种功能模板，涵盖了不同的功能，包括更换视频角色、为角色指定部位更换衣服、扩大或改变照片中角色身体部位的处理等。每个模板都配有相应的抓词说明和详细操作步骤。用户必须上传参考图像、视频或待处理的材料，并等待一段时间才能生成内容。记者尝试用一段5秒的视频进行穿衣操作，大约3分钟后视频成功生成，画面中人物的动作和表情都得到了高度还原，效果也恰到好处。被遮挡部位的衣服等也更加自然准确。记者注意到，该平台的内容生成功能采用了按时计费模式，每秒收取0.2个虚拟币。教程有专属邀请码，用户可免费领取1000虚拟币。平台还设立了虚拟币奖励机制：每天登录赠送100虚拟币，邀请新用户可获得500虚拟币。此外，在电商平台上，部分商家出售匿名AI换脸服务。在某购物平台上，记者刚刚搜索“AI换脸”，没有找到任何结果。但记者注意到，部分商家在商品详情页使用表情符号，隐喻提供“换脸”服务；一些商家打出“无所不能”、“视频内容不限，什么都懂”的口号，表明可以与cu私聊。客户服务以了解产品详细信息。记者发现，10秒变幻视频的价格从15元到300元不等。例如，有商家提出对20秒的视频（包括只产生音频的视频）统一收取80元的费用；部分商家还推出298元200分钟游戏时间、490元年卡等套餐，承诺“一对一指导指导”。许多归纳性陈述，例如“让朋友和顾客难以识别真实性”。大多数商家只检查素材内容，并不对素材和资源进行筛选。专家表示，近年来，利用名人形象的变脸、变声视频层出不穷，一些有心人士利用其进行直播推销商品，甚至具有欺骗性。这种行为可能违反哪些法律法规？京都律师事务所律师长沙：利用AI技术生成名人或普通人的面部图像的技术需要收集和提取生物识别信息。该信息属于法律敏感个人信息，未经甲方授权使用，构成对公民权益的侵犯；还可能侵犯他人的肖像权、名誉权等。如果平台“明知”侵权方利用人工智能换脸实施诈骗、售假等犯罪行为，但仍为侵权方提供协助，则可能构成协助犯罪信息网络活动罪。在AI换脸直播事件中，侵权商品的直播属于商业广告行为。它利用人工智能操纵名人的形象和声音，制造出名人本人的虚假代言，让消费者基于对名人的信任做出购买决定。违反了善的原则信仰并遵循虚假广告的标准。同时，AI换脸行为也可被视为不正当竞争。另外，去除某名人形象，捏造事实获取非法收入，主观上具有非法财产目的，客观上实施诈骗罪，符合诈骗罪的基本要件。该行为涉嫌构成诈骗罪。换脸、变声背后隐藏的法律风险我们该怎么办？有效管理？中央财经大学法学院教授王业刚：删除、篡改、移除、隐藏标识的法律责任应明确。现行相关规定仅规定行为者不得恶意删除、传播、隐藏身份。但相关规定还需进一步明确履行相关行为时需要承担哪些法律责任行动。对于可以通过技术手段发现的人工智能换脸直播，平台必须履行必要的审核义务。发现相关行为后，可考虑采取禁止或限制直播、下架产品或服务等措施。通过多部门、网信部门、市场监管部门等实现联合执法。 京都律师事务所律师长沙：在技术方面，要预防与创新并重，支持反深度合成技术研发，提高识别能力，为监管部门和个人提供可靠的技术工具。个人应增强肖像权、隐私权保护意识，谨慎发布含有个人清晰图像和独特声音的图像材料，避免给他人带来不利影响。对罪犯的赏金。同时，若发生侵权行为，您必须通过法律途径积极维护自己的合法权益，立即收集并保存相关证据、侵权内容截图、传播记录等，为后续维权过程提供有力支撑。作者 |法治日报全媒体记者赵莉实习生王一飞 特别声明：以上内容（如有则包括照片或视频）由自媒体平台“网易号”用户上传发布。本平台仅提供信息存储服务。 注：以上内容（包括图片和视频，如有）由网易HAO用户上传发布，网易HAO为社交媒体平台，仅提供信息存储服务。