AI换脸：“一秒魂穿”的法律代价有多大？
发布时间:2024-08-18 | 发布者： 东东工作室 | 浏览次数： 次（原标题：AI换脸：“一秒魂穿”的法律代价有多大？）
- 目前，利用“AI换脸”等深度合成技术伪造他人肖像，形成高度逼真且难以识别的影像并用于诈骗等不法活动的案例已经出现，传统意义上的肖像权侵权行为和电信诈骗已经产生新的“行为模式”。
- 未经允许运用AI换脸等深度合成技术易产生侵犯肖像权、侵犯名誉权等民事侵权风险。目前司法实务中已经存在AI换脸技术构成民事侵权的判决例。
- 未经允许运用AI换脸等深度合成技术除有构成民事侵权风险外，亦有可能构成刑事犯罪，除了可能构成诈骗罪外，AI换脸技术的刑事风险还涉及到制作、复制、出版、贩卖、传播淫秽物品牟利罪或传播淫秽物品罪、侮辱罪，诽谤罪，编造、故意传播虚假信息罪等传统的妨害社会管理秩序类犯罪，以及非法侵入计算机信息系统罪，非法获取计算机信息系统数据，非法控制计算机信息系统罪，提供侵入、非法控制计算机信息系统程序、工具罪等计算机、数据类犯罪。
近日，在某社交平台有着百万粉丝的网红博主“C某某某”发文称有人盗了她的“脸”，该博主在其博文中写明，“AI盗脸”事件的背后已经形成了一条完整的产业链，不法分子利用AI换脸技术将明星甚至是普通人的脸制作成色情图片或视频并予以传播，某著名反电诈网站近日亦公布了利用“AI换脸”技术制作视频用以诈骗的案例，实际上，早在2015年“AI换脸”技术就已经大显身手，2015年上映的《速度与激情7》利用了“换脸术”，将已故男主保罗的面部表情移植到替身上。但当时由于“AI换脸”需要耗费大量的人工和后期特效成本，因此并未引起社会各界的担忧。随着人工智能的发展，近年来“AI换脸”的技术门槛逐渐降低，普通公众在没有深厚技术的支持下也能玩起“换脸”，由此引发的争议及法律风险屡见不鲜。今天飒姐团队就来与大家聊一聊AI换脸技术带来的法律风险。
AI换脸与民事侵权
1. 侵犯肖像权
肖像作为一个人最核心的基本人格权利，其基本内容包括制作专有权、使用专有权和利益维护权，具有绝对的排他性，任何人未经本人同意，不得擅自使用他人肖像。根据《民法典》第1019条的规定，任何组织或者个人不得以丑化、无损，或者利用信息技术手段伪造等方式侵害他人的肖像权。其中“不得利用信息技术手段伪造等方式侵害他人的肖像权”即主要是指利用人工智能合成技术深度伪造他人肖像，形成高度逼真且难以甄别的影像等。
AI换脸技术作为一种典型的与肖像有关的技术，其破坏了肖像和主体的同一性，一方面肖像主体有权拒绝其身体形象被冠以他人面目，另一方面肖像主体也有权拒绝将其面部形象嫁接至他人身体之上。结合一般肖像权侵权的构成要件，以AI换脸技术侵害肖像权的构成要件为：1.自然人对特定肖像享有肖像权；2.行为人无论是否具有盈利目的，未经他人同意利用信息技术手段对权利人的肖像进行篡改、伪造和自动生成，产生难以甄别的效果。
在（2022）沪0116民初13856号肖像权纠纷中，被告上海某科技有限公司在其运营的“AI换脸”软件中使用了古风汉服模特廖某所拍摄的古风造型视频模板。本案中，原告廖某对肖像享有肖像权，并且被告虽然将原告视频中的人物形象的脸部进行替换，但仍能通过其他未修改的相应场景和细节识别出对应主体为原告廖某。
因此在认定AI换脸技术是否侵犯某人肖像权时，能否被识别应当作为认定该形象是否为特定主体肖像的核心标准；其次对于已公开的视频，社会一般人能否通过原视频中未被修改的相应场景和细节识别出肖像主体也可作为识别肖像的标准。
2. 侵犯名誉权
《民法典》第1024条规定，任何组织或者个人不得以侮辱、诽谤等方式侵害他人的名誉权。若通过AI换脸技术制作恶意丑化他人的视频、图片，并在互联网广泛传播的，则有可能侵犯他人的名誉权。除此之外，在实际生活当中还存在大量利用换脸视频调侃明星的情形，例如制作换脸恶搞视频调侃明星演技差、球技差，从社会一般人的角度来看，明星本身需要比普通承受更多的社会评价，因此此种情况是否侵犯明星的名誉权则还需要具体情况具体判断。
AI换脸与刑事犯罪
AI换脸的刑事风险主要源于两个方面：一是利用AI换脸技术制作的视频内容具有违法性，二是AI换脸的使用手段具有违法性。
1. AI换脸视频的内容违法
使用者利用AI换脸技术制作出的视频内容被刑法所禁止，此时刑法的评价对象是利用AI技术创造出的虚假视频，该行为违法性的核心也来源于此，而AI换脸作为一种过程性的手段被包容评价在内。以前文所述的网红博主“C某某”“盗脸”事件为例，利用AI换脸技术将明星、博主甚至是普通人的脸制作成色情图片或视频，由此牟取非法利益的情形下，利用AI换脸技术产出的视频即属于淫秽物品，制作、复制、贩卖、传播淫秽视频的行为也直接触犯了《刑法》第363条的规定。
该类别下，除了可能涉及到制作、复制、出版、贩卖、传播淫秽物品牟利罪或传播淫秽物品罪之外，还可能涉及侮辱罪，诽谤罪，编造、故意传播虚假信息罪等犯罪。
2. AI换脸视频的使用手段违法
使用者利用AI换脸技术制所作出的视频内容并不违法，但将其运用到违法的领域内，即AI换脸技术成为了一种新型的犯罪手段，由此导致AI换脸技术的行为具有严重刑事违法性，需要对其进行规制。从本质上来说，该种情形下是否使用了AI换脸技术并不影响刑法对该行为的评价，关键在于该技术所实现的抽象效果是否满足刑法规定的该罪名的构成要件。例如我国近年来涌现出一批以“AI换脸”技术为手段，通过装亲戚等套近乎的方法来实施财产诈骗犯罪，不法分子利用AI换脸技术伪造出他人人脸动态视频，由于该种视频制作得十分逼真甚至于人工审核都很难辨认出真假，因此极容易让受害人产生信服的心理，从而基于错误的认知向不法分子交付钱财，造成了大量被害人的财产损失，严重威胁个人安全和社会稳定。此时，不法分子制作的换脸视频内容一般并不违法，究其根本是AI换脸技术成为了一种诈骗的手段，侵害了他人的财产权。
该类别下，除了可能涉及诈骗罪，还可能涉及的罪名包括敲诈勒索罪，非法侵入计算机信息系统罪，非法获取计算机信息系统数据，非法控制计算机信息系统罪，提供侵入、非法控制计算机信息系统程序、工具罪等。
个人信息泄露的风险
在当前的大数据时代，隐私问题应当被公众更加关注和防范。目前，在我们的生活中，很多公司打着“安全和用户需求的考虑”，扩大了电子监控设备的适用范围，如滴滴公司在车内安装跟踪设备和监控涉嫌头，各大写字楼、地铁口安装了人脸识别设备。被采集到的大量人脸数据信息被储存在公司的服务器当中，存在随时被他人侵入、破解的可能性，人脸识别的安全性也直接成为了影响成千上万的个人隐私及财物安全的隐患。其次是各大应用商店中仍可以搜索到大量的换脸app，各类产品中包含的人脸识别步骤使得用户在不知不觉中就泄露了自己的人脸信息。而部分软件在与用户订立“隐私条款”时，使用了“包括但不限于”对用户人脸信息的无限制使用。在大数据时代下，利用收集数据的便利性和广泛性，企业可以凭借一张简单的照片就关联出用户的其他信息，进而对用户信息进行买卖谋取非法利益，给用户带来了巨大的信息泄露的风险。
写在最后
深度合成技术不断演进，AI换脸所带来的的各种法律风险是互联网技术发展过程中无法避免的问题，也是不可遏制的洪流。在互联网治理方面，国家有关机构也出台了相应的法律规定，如《网络音频信息服务管理规定》、《网络信息内容生态治理规定》、《生成式人工智能管理办法（征求意见稿）》等，目前存在的各种AI换脸场景也并未超出法律法规及制度规范的约束范围。
无可否认，每一次技术的进步都会引起法律规范领域的大变革，上世纪初电力的广泛应用催生了刑法学界对于盗窃电力是否构成盗窃罪及电力是否可以被归于有体物的大讨论。上世纪末随着计算机、互联网技术的普及，计算机犯罪又催生了刑法的大变革。如今的“AI换脸”等人工智能技术的兴盛与前两次技术变革并无本质不同，在世界范围内，我国在AIGC、深度合成技术领域的立法已经走在世界前列，未来两年一定是相关法律规范的井喷期，飒姐团队提醒广大技术从业者注意相关规范，在合规的框架下利用AI赋能商业模式，最终形成1+1＞2的效果。
本文系未央网专栏作者:肖飒 发表，内容属作者个人观点，不代表网站观点，未经许可严禁转载，违者必究！转载请标注：我爱技术网——AI换脸：“一秒魂穿”的法律代价有多大？