AI换脸，不能想换就换

当AI换脸技术被用于诈骗、色情、盗窃、恶搞、非法逐利等方面时，其不良效应也引发了社会的关注和担忧——放任自流，任其异化，其可能成为侵害他人合法权益和危害社会公共安全的工具

上传一张照片，经过AI技术算法合成，立即秒变一张你想要的人脸……这样的事听起来是不是很有趣？但有趣的同时，AI换脸也带来不少问题：不法分子借此制作虚假视频诈骗钱财、利用换脸方式侵害他人肖像、伪造人脸识别认证从事非法活动，等等。专家表示，人工智能新技术给社会生活带来方便的同时，也给人们隐私保护、财产及人身安全等都敲响了警钟。

前不久，河北省高阳县网警破获一起制作、贩卖、传播淫秽物品牟利案。犯罪嫌疑人李豪通过QQ群自学AI换脸技术，用明星图片制作淫秽视频在网上以每10分钟300元的价格售卖，严重侵犯了当事人的肖像权和名誉权。李豪还根据买家特殊需求，提供“私人定制”，由买家提供素人照片资料，李豪再将照片加工制作成淫秽视频或图片卖给买家。经调查，李豪通过制作、贩卖淫秽物品非法获利近3万元。目前，李豪被检察机关以涉嫌制作、复制、出版、贩卖、传播淫秽物品牟利罪提起公诉。目前，案件尚未宣判。

专家指出，随着人工智能的发展，AI换脸门槛逐渐降低，普通人也能方便地制作换脸视频，满足了人们猎奇、美颜、社交等各种需求。但是，当这项技术被用于诈骗、色情、盗窃、恶搞、非法逐利等方面时，其不良效应也引发了社会的关注和担忧——放任自流，任其异化，可能成为侵害他人合法权益和危害社会公共安全的工具。面对网络新风险，需要行业自律与司法实践相结合加以遏制。不管是经营者还是使用者，都要秉持科技向善的原则，不能利用这项技术从事违法犯罪行为。

低门槛低成本A1换脸被滥用

AI换脸是人工智能新技术，能把一张脸换成另一张脸，且表情自然，效果逼真，通常只需一张照片即可在特定的软件上完成替换，准确度几乎乱真。当然，也有些技术差的、粗制滥造的“AI脸”是“肉眼可见”的假，只能骗骗低端需求。

“AI换脸原来难度比较大，一般要三四个钟头或半天才能完成一个换脸，但现在技术突破了，换脸过程比较简单。普通人下载一个换脸App就能完成相关操作。”北京某影视公司动画技师杨先生告诉《方圆》记者，因为制作门槛和成本越来越低，AI换脸现在有被滥用的趋势。

“网上经常能看到一些明星、网红被换脸的视频，弄成什么样的都有。不论什么类型的作品，制作人都能够通过AI换脸技术将他想要看到的形象替换上去。”杨先生说，有的网站还出现了心怀不轨的人将一线女明星的形象安在了不堪入目的画面上，这对被害人女明星来说影响是很大的。大家都相信眼见为实，人们看到视频上不堪的画面时，难免都会对女明星产生一些不好的印象。

杨先生说，AI换脸技术发明之初本来是用于视频剪辑以及模拟智能学习领域，但现在越来越被滥用和不受控制。有人曾作过多次试探，发现将静态照片通过AI换脸软件生成动态视频后，在乘坐地铁进行刷脸支付进出站时可秒过。不仅如此，在刷脸认证小区门禁时也可直接上“视频”通行。

一名业内人士告诉《方圆》记者，由于线上线下都有换脸需求，目前在一些电商平台已悄然形成一个黑灰产业链：有提供软件及技术的，有提供视频和照片定制的，也有售卖成品视频类的，“不过都比较隐蔽，大多数都进行了伪装，不会明目张胆地跟人交易，但懂行的人知道他们是干什么的”。

2021年，广东省广州市越秀区检察院办理了一起AI换脸民事公益诉讼案。案件特征之一就是涉案的几名当事人彼此间形成了上下游交易关系。周至组群专门用于个人信息非法交易；高文、朱宏、刘斐等人通过广告加入群组，按照下家提供的个人信息，从周至手中购得大量与个人信息相匹配的高清身份证照片，利用照片中的头像制作AI视频卖给下家，赚取差价。

据一些懂行的人透露，黑市提供定制换脸视频的价格，一般每分钟80元至100元，具体还要根据实际情况来定，难易程度不同，要价也有所不同，有的要到每分钟200元至300元不等。

经人指点，《方圆》记者在某宝网上搜索“AI换脸”“deepfake”（深度伪造）等关键词，出现了不少换脸软件售卖信息，包括“商业背书视频”“明星偶像互动视频”“恶搞视频”等，有的还专门标出了“动作逼真清晰”等字样，还有的能提供换脸视频制作服务等。一个某宝ID为“专业定制换脸视频”的卖家表示，可以代为制作换脸视频，3分钟以内价格为300元。

《方圆》记者还在某二手交易平台上以3元的价格购买了一款名为“fakeApp”（一键换脸）的换脸软件，根据教程，导入提供的视频素材，只需要按“提取”和“合成”键等，就可以将视频素材中的人脸进行互换，几乎看不出痕迹。

“这项技术的传播就像打开了潘多拉的魔盒，相比于正向应用，人们更担心它会被用在灰色领域，成为违法犯罪的帮凶。”腾讯公司技术专家蒋增增介绍，在金融领域的一些安防场景、网点的柜面都有应用人脸识别技术。线上银行的远程开户，P2P借贷也有人脸识别核验的功能。这些刷脸支付的方式在方便生活的同时，也存在个人信息被盗用进而影响资金安全的隐患。

业内人士表示，一旦不法分子利用人工智能技术将他人照片进行活化，就可以做出模拟真人的点头、摇头、眨眼、说话等行为，极易被用作办理网贷、盗窃或实施精准诈骗。

2021年11月，浙江省杭州市上城区检察院办理过一起网络盗窃案：刘靖、陈叔华、王等共谋，利用AI换脸技术对某知名社交平台支付人脸认证进行破解，并和上家共商，利用换脸手段，半个月内盗窃被害人周娟等人账户3万余元，得手后和上家分成非法获利。

办案检察官说，刘靖、陈叔华、王等分工明确，由刘靖在各社交群发布广告拉业务，由陈叔华、王等负责操作盗窃来的社交账号和盗取账号内资金。陈叔华通过相关灰色产业的社交群获得被害人的社交账号、密码，从网上的黑灰产业链购买到被害人的身份证正面照片，并花钱学习了详细的AI换脸教程。他们的沟通还设定了暗语，作案手法非常隐蔽，如果不是及时将三人抓获，还可能给其他人造成更大的财产损失。

背后暗藏不少法律风险和侵权纠纷

不少案例表明，深度合成技术快速发展，在服务用户需求、改进用户体验的同时，也被一些不法人员用于制作、复制、发布、传播违法和不良信息，诋毁、贬损他人名誉、荣誉，仿冒他人身份实施诈骗等，影响了传播秩序和社会秩序，损害了大众合法权益。同时，由于有了换脸、变声工具，社交媒介上，用户可以任意更改性别、国籍、外貌，仿真度极高、欺骗性极强，后果往往也比较严重。

在中国政法大学传播法研究中心副主任朱巍看来，AI换脸很大程度上会造成核心个人信息的泄露，会侵犯个人隐私。

“AI换脸需要用手机号动态验证码进行验证登录。用户如果想要下载或分享换脸视频，需要进行验证确认所使用的照片的确是用户本人才行，而验证的方式则是在摄像头前进行眨眼、扭头、张嘴等各种指示动作。在这个过程中，换脸软件实际上已经搜集了用户的面部识别信息并加以保存，因此，换脸的过程实际上存在严重的核心个人信息泄露风险。”朱巍说。

有多年互联网案件审判工作经验的北京互联网法院法官鲁宁表示，擅自使用他人肖像制作换脸视频，可能会涉嫌构成多种民事侵权行为，如侵犯他人的肖像权、名誉权等。

鲁宁说，在换脸App中，有人将自己的脸换成明星的脸，将明星的脸换成自己的脸，或者将甲明星的脸换成乙明星的脸。如果换脸后仍然保留了明星的主要面部特征，公众据此可以直接辨认出明星的身份，那么用户的这种行为就有可能侵犯明星的肖像权。

“如果再将明星的脸换到不雅视频中，或者换脸后对明星进行恶意丑化，导致公众误以为该明星拍摄了不雅视频，或者做了一些有违道德标准甚至违法违纪的行为，对明星产生负面评价或评价降低，那么这种换脸行为就可能侵害明星的名誉权。”鲁宁说。

“无论是换脸App的经营者还是普通网友，凡未经影视剧著作权人的授权和许可，擅自将换脸后的影视片段通过网络提供给公众，使公众可以在其个人选定的时间和地点进行在线播放甚至下载等，都可能涉嫌侵害影视剧著作权人的信息网络传播权。同时，如果换脸后对原影视剧片段的主旨进行了歪曲篡改，最常见的形式就是恶搞，还有可能侵害影视剧著作权人的保护作品完整权等。”鲁宁表示。

还有法律人士认为，AI换脸还可能会给信息的真实性带来挑战，给科技伦理、人身及财产安全等带来危害。“如果使用AI换脸技术公然侮辱他人或从事网络盗窃、网络诈骗等违法活动，还可能涉嫌刑事犯罪。”

东南大学网络空间安全学院副教授宋宇波以AI换脸可能给公民人身及财产安全造成潜在危害举例说，如果单纯是为了消遣搞笑而制作换脸视频，本身并没有太多的问题，但如果这一技术被不法分子利用，则会产生极大危害。

宋宇波认为，将名人或明星的脸移植到一些他们本不该出现的场景中，很有可能造成负面影响。而对于普通人来说，目前许多金融场所都依赖于视频线上识别进行身份核实，如果不法分子运用深度合成中的表情操纵方法生成伪视频，则很可能造成个人金钱损失。

多位法律人士表示，AI换脸技术的滥用，在现实生活中引发了很多侵权纠纷。北京互联网法院曾披露过一组数据：2018年9月至2020年8月，该院共受理利用网络侵害人格权纠纷案6284件，其中涉网络侵害肖像权纠纷的案件就有4109件，占到人格权纠纷案的65.4%，居于首位。

对此，吉林大学法学院教授侯学宾等专业人士表示，AI换脸已让网络侵权变得更加容易，法律规制的效果也变得难以实现。

“AI换脸不只停留于搞怪开玩笑，而且更多地被用到色情行业。在当前的AI换脸技术之前，就有人利用相关技术将各种明星的头像置换到各种色情视频获取暴利，现在的换脸技术只是让这种做法变得更为便捷。”侯学宾说，尽管依据现有法律可以对此进行规制，维护被害人的权益，但是网络的特性让这种照片或视频很难被完全消除，被侵权者只能默默忍受由此带来的伤害。

若使用必须获得单独授权

的确，技术的发展让AI换脸变简单了，下载相关的App就能实现一键换脸。闲暇无聊之时，下个换脸软件消遣一番，也不失为一种娱乐方式。不过，在法律人士看来，虽然AI换脸的门槛和成本变低了，换脸操作好像无时不在无处不在，但也并不是说想换就换，无所顾忌。在换脸这场“狂欢”里，仍然需要合理的边界和尺度。

中国互联网协会法工委副秘书长、中消协律师胡钢表示，AI换脸本身是一项中性技术，提供的只是一种解决问题的方式。网友通过某种方式创作一些内容并完成有关表演，是法律规定公民所享有的权利。但任何一项言论或行为自由，都要和相关义务、责任进行匹配，可以有自由，但自由的边界是不得侵犯其他个人或组织的利益，也不能损害公共利益，对此必须有清晰的法律界限。

一些研究人员也表示，不同的人使用AI换脸技术，可能出于不同目的或动机，虽然采用同样的技术，但所产生的社会效果和法律效果并不相同。AI换脸技术的开发者和经营者在授权他人使用相关产品时，一定要明白科技伦理的概念，考虑这项技术在法律上、伦理上是否可能被滥用，在开放过程中应当采取更加合法合规的措施和方式，以及注意后期的预防措施等。

“比如，产品所展现的图像本身或声音本身，开发运营者是否强调了这是经过AI技术处理的内容，是否标注了仅用于表演、娱乐字样等。这种重要的提示完全可以嵌入到相关开发技术运营单位的经营流程之中，如果能牢牢守住这一点，就能避免一些法律风险，如果守不住，就可能引来一些麻烦。”专家说。