您的位置:  首页 > 司法裁判要旨 > 民事裁判要旨 > 正文

人民法院案例库:滥用AI换脸技术侵害众多不特定主体合法权益处理

2025-04-11 21:20 次阅读

入库案例:2025-07-2-525-001

浙江省杭州市萧山区人民检察院诉虞某龙个人信息保护民事公益诉讼案

关键词 民事 公益诉讼 个人信息 AI换脸 深度伪造技术 公共利益

基本案情

虞某龙通过互联网学习掌握了AI换脸”软件的使用方法,并从互联网等渠道收集百余人的人脸信息,在未取得这些人同意的情况下,利用“AI换脸 ”软件,将上述人脸信息与部分淫秽视频中主体的人脸信息进行替换,伪造生成淫秽视频、图片。2021年至20228月期间,虞某龙在网络社交软件中创建 6个社交群组,群组成员人数合计2000余人,其中5个社交群组的入群成员需向虞某龙支付人民币198元(币种下同)、298元、498元等金额的入群费用。虞某龙在上述群组中发布其通过“AI换脸”软件伪造的淫秽视频、图片各1000余段(张)。此外,虞某龙还对外销售“AI换脸”软件,传授使用教程,提供换脸所需个人面部模型素材,并为他人提供换脸视频定制服务,从中收取每件90余元到近千元不等的出售费、服务费,共计牟利数千元。

20233月,杭州市萧山区人民检察院以虞某龙在案涉网络社交软件群组中发布、定制淫秽视频、图片,牟取利益,涉嫌构成制作、传播淫秽物品牟利罪为由,向杭州市萧山区人民法院提起公诉。2023414日,公益诉讼起诉人发布《杭州市萧山区人民检察院对虞某龙提起个人信息保护民事公益诉讼的公告》,公告期满未有法律规定的机关、组织提起个人信息保护民事公益诉讼。

杭州市萧山区人民检察院以虞某龙侵犯公民个人信息的行为损害社会公共利益为由,请求法院判令:虞某龙停止侵权,删除持有的所有涉案个人信息;公开赔礼道歉;支付公益损害赔偿金60000元。

杭州互联网法院于202384日作出(2023)浙0192民初4563号民事判决:一、被告虞某龙于本判决生效后立即停止侵权,删除其在某社交软件群组中留存的所有案涉个人信息;二、被告虞某龙于本判决生效之日起三日内,在《法治日报》向社会公众刊发赔礼道歉声明,以消除影响、进行警示;三、被告虞某龙于本判决生效之日起十日内支付侵害社会公共利益的损害赔偿款人民币 60000元。

裁判理由

本案的争议焦点为:虞某龙的行为是否侵害不特定主体个人信息权益,是否损害社会公共利益。

根据《中华人民共和国个人信息保护法》第二十八条、第二十九条规定,人脸信息属于生物识别信息,而生物识别信息属于个人敏感信息,处理人脸类的生物识别信息除必须获得个人的单独同意外,还需要遵守行政法规的特别规定。根据《最高人民法院关于审理使用人脸识别技术处理个人信息相关民事案件适用法律若干问题的规定》(法释〔202115号)第一条规定,对人脸信息的处理行为包括人脸信息的收集、存储、使用、加工、传输、提供、公开等。本案所涉人脸信息的处理行为,主要是指围绕“AI换脸”软件(技术)的应用而产生的相关个人信息处理行为。根据本案查明的事实,虞某龙存在侵害他人个人信息权益的多种行为。

其一,虞某龙使用AI换脸”软件(技术)深度合成伪造视频和图片,其对人脸敏感信息等个人信息的处理行为均未获得相关信息主体同意,构成对他人个人信息权益的侵害。同时,虞某龙将上述含有他人人脸信息的视频、图片,在网络社交软件中进行发布、提供,该行为亦侵害了他人个人信息权益。

其二,虞某龙在未对“客户”进行基本身份核验,且明知“客户”要求的人脸合成伪造行为存在侵害他人合法权益、有违社会公序良俗情形,仍为“客户”提供不特定主体的人脸替换定制服务,制作侵害他人合法权益、违背社会公序良俗内容的换脸视频、图片,侵害了不特定主体的个人信息权益。

其三,虞某龙以制作换脸淫秽色情的视频、图片为噱头,在其创建的发布淫秽色情内容的特定群组中,为牟利而对外销售AI换脸”软件、传授“AI换脸”技术教程。虞某龙应当知道“AI换脸”软件(技术)极有可能被上述“客户”用于非法行为,明显违反了对敏感个人信息或生物识别信息处理的基本安全保障义务,显著增加了社会不特定主体人脸生物识别敏感个人信息被侵害的风险。

综上,从虞某龙侵害行为对象的数量和不特定性、潜在传播者的数量和风险的扩散性等方面考虑,可以认定虞某龙案涉行为侵害众多社会主体个人信息权益,损害相关领域的社会公共利益。

裁判要旨

未经信息主体许可,利用AI换脸”技术伪造淫秽色情视频、图片的,构成对他人个人信息权益的侵害。综合考量侵害行为对象的数量和不特定性、潜在传播者的数量和风险的扩散性等因素,侵权行为侵害众多个人的权益、损害社会公共利益,法律规定的机关和有关组织向人民法院提起公益诉讼的,人民法院依法予以支持。

关联索引

《中华人民共和国个人信息保护法》第28条、第29条、第70

《最高人民法院关于审理使用人脸识别技术处理个人信息相关民事案件适用法律若干问题的规定》(法释〔202115号)第1条、第2条、第8条、第14

一审:杭州互联网法院(2023)浙0192民初4563号判决(202384日)

包头律师张万军教授,江苏连云港东海县人,毕业于西南政法大学,法学博士,现任教内蒙古科技大学法学系,法学教授,内蒙古钢苑律师事务所律师。

地址:内蒙古自治区包头市昆都仑区凯旋银河线2A座18楼1807室



友情链接