别拿AI美颜换脸当玩笑

源芳 2023-12-27 15:29:34 398 1 来自 中国
一、全国首例涉人脸识别民事公益诉讼案

前不久,《王牌对王牌》第八季第二期节目中,嘉宾们使用AI换脸技术,现场连线亲友实施“诈骗”,让观众在沉浸式体验AI换脸中get到了网络信息安全和反诈知识[1]。在先进的AI技术加持下,连线的亲友轻松中招,如果不是嘉宾们故意搞怪搞笑,恐怕场面会更加离谱。

但现实往往比节目更加残酷。这边防诈节目还笑料连连,那边被刑事审判的被告人却锒铛入狱。

近日,广州互联网法院公布全国首例涉“人脸识别”民事公益诉讼案[2],犯罪嫌疑人已经开始利用人工智能技术,通过违法提供个人信息和伪造人脸识别认证牟取非法利益。

在该案中,郑某向社会公众提供非法查找个人敏感信息的业务,只要买家提供姓名、身份证号码等信息,就能获取人脸、电话号码、家庭住址等敏感个人信息;同案任某等人通过从郑某处购买的人脸信息,利用AI软件制作虚假的人脸识别动态识别视频,用于破解各APP的人脸识别系统后,可以进入他人的微信等账号,获取个人信息,再次向下游出售。涉案人员构成侵害公民个人信息罪,被判处有期徒刑一年二个月至一年不等,并处罚金。

二、AI换脸应用热度不减

人工智能换脸软件主要运用的是深度伪造(Deepfake)等技术,发展至今,市面上已有多款AI换脸软件,如国外的Hugging Face、Reface、DeepArt、FaceShow、DeepFaceLive等,国内早些年的Zao应用,也曾因用户隐私等问题一度被“全民声讨”。

前段时间,一款声称是“国内首个AI实时换脸视频播放器”的应用,也宣布面向公众提供一键视频换脸服务[3]。用户通过在官网下载应用,直接上传想进行换脸的视频,以及想要进行换脸的人脸图片,即可以生成换脸后的视频。

根据该应用基础版本的用户协议和宣传资料,该AI换脸软件的全部功能均能在脱机状态下实现,用户无需注册即可使用,也无需用户提供任何个人信息。且无论联网状态还是脱机状态,该公司均称不会通过软件主动或被动地收集用户的任何个人信息。

该提供AI换脸服务的提供者,想必是考虑到个人信息保护的重要性,但在面对如此重要的人脸敏感信息,仅在用户协议中做此声明,是否真的就意味着不涉及个人信息的处理?服务提供者可以在个人信息安全问题上高枕无忧?

三、AI换脸服务提供者的合规要点

1. 身份辨析:个人信息处理者

根据《个人信息保护法》第28条的规定,敏感个人信息是指一旦泄露或者非法使用,容易导致自然人的人格尊严受到侵害或者人身、财产安全受到危害的个人信息,包括生物识别、宗教信仰、特定身份、医疗健康、金融账户、行踪轨迹等信息,以及不满十四周岁未成年人的个人信息。

此外,《信息安全技术 个人信息安全规范》(GB/T 35273-2020)进一步列举敏感个人信息包括:身份证件号、个人生物识别信息(即包括本文涉及的人脸识别信息)、银行账户、通信记录和内容等信息。

而AI换脸服务的提供者,涉及收集、处理、存储用户人脸信息等个人信息的,依据《生成式人工智能服务管理暂行办法》第九条的规定,应当依法承担个人信息处理者责任,履行个人信息保护义务。

因此,AI换脸服务提供者毫无疑问属于“个人信息处理者责任”,应当依法履行个人信息保护义务。

2. AI算法备案

前文我们提到AI换脸软件运用的技术之一是深度伪造(Deepfake)技术,深度伪造主要是通过人工智能与机器学习实现的。根据《生成式人工智能服务管理暂行办法》第二条和第十七条的规定,大部分的AI换脸软件,均属于向中国境内提供具有舆论属性或者社会动员能力的生成式人工智能服务,自然应当按照《互联网信息服务算法推荐管理规定》履行算法备案手续。

AI算法备案主要涉及【主体信息填报】【算法信息填报】【产品及功能信息填报】三大步骤,感兴趣的读者可以阅读我们关于AI算法备案的另一篇文章
3. 个人信息保护影响评估

个人信息保护影响评估(Personal Information Protection Impact Assessment,下称“PIA”),指的是依据《个人信息保护法》第五十五条的规定及《GB/T 39335-2020 信息安全技术 个人信息安全影响评估指南》第3.4款,符合一定情形的个人信息处理者应当在事前对个人信息保护的影响进行评估,检验其合法合规程度,判断其对个人信息主体合法权益造成损害的各种风险,以及评估用于保护个人信息主体的各项措施有效性的过程。

(1)PIA的法律依据及指南

《个人信息保护法》第五十五条 有下列情形之一的,个人信息处理者应当事前进行个人信息保护影响评估,并对处理情况进行记录:

(一)处理敏感个人信息;

(二)利用个人信息进行自动化决策;

(三)委托处理个人信息、向其他个人信息处理者提供个人信息、公开个人信息;

(四)向境外提供个人信息;

(五)其他对个人权益有重大影响的个人信息处理活动。

《GB/T 39335-2020 信息安全技术 个人信息安全影响评估指南》

3.4 个人信息安全影响评估 针对个人信息处理活动,检验其合法合规程度,判断其对个人信息主体合法权益造成损害的各种风险,以及评估用于保护个人信息主体的各项措施有效性的过程。

(2)PIA的内容

《个人信息保护法》第五十六条规定,PIA应当包含下列内容:

(一)个人信息的处理目的、处理方式等是否合法、正当、必要;

(二)对个人权益的影响及安全风险;

(三)所采取的保护措施是否合法、有效并与风险程度相适应。

PIA报告和处理情况记录应当至少保存三年。

PIA属于《个人信息保护法》规定的法定义务,对于AI换脸服务提供者,因涉及在提供服务过程中处理人脸等敏感个人信息,需要依法履行个人信息保护影响评估义务,否则可能面临违反《个人信息保护法》的规定,被有关部门视情节予以责令改正、警告、没收违法所得、罚款等。

4. AI生成内容的标识

AI换脸服务提供者作为生成式人工智能服务的提供者,依据《互联网信息服务深度合成管理规定》,应当依法对生成内容进行标识。

全国信息安全标准化技术委员会今年8月份发布的《网络安全标准实践指南——生成式人工智能服务内容标识方法》,亦对AI生成内容的标识作出了细化的指引:

(节选自《网络安全标准实践指南——生成式人工智能服务内容标识方法》)


四、写在最后

AI换脸产品作为人工智能技术的重要应用,给大量用户带来了一键换脸的新奇体验。但是,AI换脸产品的合规发展存在较大的挑战:

  • 一方面,AI换脸产品容易成为滋生罪恶的温床,如近年来热议的“一键脱衣”事件、人脸信息泄露引发的肖像权侵权、版权侵权、诈骗等风险,也引发了公众的担忧;

  • 另一方面,除了前述合规义务之外,AI换脸产品处理人脸信息时,也难以同时取得生成内容所涉全部主体的版权、肖像权等权利的授权。



对于AI换脸服务的提供者而言,不仅要尽量在目前的法律框架下,妥善处理个人信息,完成相应的个人信息安全影响评估、备案等监管要求,还要为自家的AI换脸产品创造更符合主流价值观的应用场景,任重且道远。

参考资料:
[1]参见《「惊爆」沈腾亲身示范AI换脸,王牌反诈思路独具匠心!》,
[2]参见《全国首例!谁在偷我的“脸”?》,

[3]参见《国内首个AI实时换脸视频播放器!一键让你爽到飞起!》,


作者简介:

陈焕律师,北京市隆安(广州)律师事务所律师、隆安湾区人工智能法律研究中心主任、隆安广州数字经济部副部长、国家工业信息安全发展研究中心《生成式人工智能数据应用合规指南》团体标准起草人。

李琪瑶律师,华南理工大学法律硕士研究生,英语专业八级。现为北京市隆安(广州)律师事务所律师,隆安湾区人工智能法律研究中心研究员。李琪瑶律师具有上市公司法务及知识产权代理机构经验,专注于知识产权领域理论研究与实务。

本文来自 藏宝库 28xin.com


您需要登录后才可以回帖 登录 | 立即注册
确实是难得好帖啊,顶先
2024-1-3 19:20:46 回复

Powered by CangBaoKu v1.0 小黑屋 藏宝库It社区 ( 冀ICP备14008649号 )

GMT+8, 2024-4-22 05:32 , Processed in 0.168142 second(s), 37 queries . © 2003-2025 cbk Team.

快速回复 返回顶部 返回列表