当前位置: 首页 » 资讯 » 科技 » 正文

关于人脸识别技术应用的风险研判及治理路径

放大字体  缩小字体 发布日期:2024-01-30  浏览次数:52
核心提示:摘要:当前,人脸识别技术在安防、教育、支付等领域广泛应用,并延伸出人脸验证、人脸辨识两大功能面相,但其在便利生活的同时,
 摘要:当前,人脸识别技术在安防、教育、支付等领域广泛应用,并延伸出人脸验证、人脸辨识两大功能面相,但其在便利生活的同时,逐步呈现非授权、非必要、低安全、超伦理四类风险挑战。我国立法虽将人脸识别信息归入敏感个人信息,进行特别保护。但相关规则在适用时,存在知情同意落地难、认定必要落地难、场景划分落地难以及安全保障落地难四大难题。为此,我国需要尽快针对人脸识别信息进行体系化的制度设计,采取场景化规制路径,实现推动人脸识别技术发展与保障公民权利间的有效平衡。
 
关键词:人脸识别技术;人脸识别信息;场景化;风险研判;法律规制
 
     0 引言
近年来,人脸识别产业规模迅速扩大,与此同时,人脸识别信息的利用和保护逐渐成为重点问题。虽然《中华人民共和国个人信息保护法》将人脸识别信息归为“敏感个人信息”,设置了保护规则,但人脸识别信息具有的“唯一性”、“不可更改性”等天然特性,决定了难以与一般敏感个人信息等同,需要给予更多的监管与规制。
 
目前,全球对于人脸识别信息保护主要有两种立法模式,一种是在一般性的数据保护立法中进行强化性的保护规定,以欧盟为代表,我国亦属于此种。另一种是出台生物识别信息保护专门性立法,对人脸等生物识别信息给予特殊保护,以美国各州为代表,如伊利诺伊州出台的《生物识别个人信息隐私法》、德克萨斯州出台的《获取或使用生物识别标识符法规》、华盛顿特区出台的《生物识别隐私保护法》。反观我国需要尽快针对人脸识别信息进行体系化的制度设计,确保人脸识别技术有序开发和使用。
 
     1 人脸识别技术简述
随着人工智能、区块链等技术和相关产业的快速发展,我国人脸识别产业链基本形成,市场规模快速增长。从人脸识别技术特性来看,其不仅仅是对人脸图像进行单一化识别,而是涵盖了从图像收集、到特征提取再到人脸比对等全过程。当前,人脸识别技术已在安防、交通、金融、教育、支付等领域得到广泛应用,并逐渐延伸出两大功能面相。
 
     1.1 人脸验证
人脸验证,是指将收集到的人脸识别信息与已经存储的特定个体的面部特征信息进行比对(1:1模式),以确认特定个体身份的真实性,即证明“你是你”,如人证比对、刷脸支付等应用。
 
     1.2 人脸辨识
人脸辨识,是指将收集到的人脸识别信息与已经存储的在一定范围内的不同面部特征信息进行比对(1:N 模式),以查找和辨认个体身份,即证明“你是谁”,如小区门禁、签到打卡等应用。
 
 
 
     2 人脸识别技术应用的风险挑战
由于人脸识别信息具有“唯一性”和“不可更改性”,使其与个人的联系强于一般个人信息,这既是该技术得以广泛应用的原因,也使得其一旦被非法应用,后果也更加严重。
 
     2.1 未经用户授权,摄像头“主动”“无感”抓拍、识别人脸信息
一些不需要个人配合使用的人脸识别设备,往往安装的较为隐蔽,个人难以察觉。此类设备由于缺乏用户授权,存在侵犯个人隐私的问题。如,一些房地产公司通过安装具有人脸识别功能的摄像头,在客户不知情的情况下,收集人脸信息,识别客户是否属于首次到访,以确定是否对中介进行利润分成。再如,一些卫浴类销售门店也安装了具有人脸识别功能的摄像头,隐秘收集顾客人脸信息,通过分析顾客来店记录,以进行精准营销。
 
     2.2 非必要滥用,呈现“遍地开花”趋势但用户无法自主选择
当前,人脸识别技术被广泛应用于各种场景,包括考勤打卡、小区门禁、景区游览等。为使用上述服务,用户只能被动地“同意”使用人脸识别技术。但实际上,在这些场景中应用人脸识别技术并不具备充分的必要性,完全可以采用其他认证方式。如,物业公司强制使用人脸识别技术,将其作为居民进入小区的唯一方式,以取代安保、门禁卡等验证方式。再如,杭州某野生动物园强制要求游客刷脸进入园区的行为,也曾被游客起诉。
 
     2.3 安全保障不足,不同场景下难以有效保障技术的安全性
人脸识别作为“密码登录”、“身份核验”的关键组件,被黑灰产业持续攻击,人脸识别技术应用的安全问题持续受到公众担忧。如,清华大学研究团队利用对抗样本攻击技术攻破了十余款手机中的人脸识别应用。再如,交通银行人脸识别系统被绕过造成受害人资金被窃取。此外,人脸识别算法准确率受传感器、对象群体、环境因素不同的影响,识别准确率大打折扣,易被“以假乱真”的人脸照片、3D模型破解。
 
     2.4 存在伦理问题,部分应用场景引发大众对于道德伦理的担忧
与其他自动化分析技术相结合使用后,人脸识别技术可能会涉及伦理道德问题。如一些学校通过使用人脸识别技术,收集学生在课堂上的姿势、表情以及低头频率等数据,通过相关工具统计分析,得出学生的学习效果指数、专注度指数等信息并告知老师和家长,可能涉嫌侵犯学生的人格尊严。
 
     3 人脸识别技术应用问题的原因分析
法律依据的充足是保障人脸识别信息得到有效保护的前提。但显然,人脸识别信息相关规定较为原则,规则可操作性不强。
 
     3.1 知情同意落地难:一刀切落实知情同意与人脸识别技术的便捷性存在冲突
按照现有规定,处理人脸识别信息等敏感个人信息应当获得个人的单独同意。单独同意相较于一般同意,能够充分保护用户的知情权。但人脸识别技术得以广泛普及的关键在于其具有的高效便捷性。正是由于此特性,人脸识别技术在众多场景中得以在用户不知情的情况下,隐蔽收集人脸识别信息。为此,法律要求的单独同意形同虚设,无法切实发挥作用。但反之,若在所有场景中一概要求严格落实单独同意规则,则会在一定程度上影响人脸识别技术应用的效率。因此,知情同意规则与技术的便捷性之间存在着难以调和的矛盾。
 
     3.2 必要认定落地难:必要原则在落地时未形成细化规则,存在内容错配
必要原则属于个人信息保护中的一项原则性要求,规定个人信息处理者处理人脸识别信息等敏感个人信息时,应当具备充分的必要性。必要原则既然属于宏观层面的法律原则,在判定人脸识别技术应用的目的及其是否具有必要时,必然需要中观层面的判定方法论进行支撑。然而,当前由于缺乏人脸识别技术应用的必要性判断标准,导致一些本可通过收集一般个人信息即可实现服务目的场景,却在广泛、大肆收集人脸识别信息。
 
     3.3 场景划分落地难:未能实现对于人脸识别应用场景的细化和分级
人脸识别技术应用于不同场景,对其规制方式、方法以及路径理应存在差异。这是由于人脸识别在不同场景下,需要防范的风险不同,以及所需平衡的利益也不同。然而,目前立法并未根据人脸识别应用目的、应用方式、应用手段等因素对应用场景进行细化和分级,在实践中也并未根据场景针对性地提出管理要求,进而导致规制手段的单一化、一刀切。
 
     3.4 安全保障落地难:与人脸识别技术和应用有关的安全风险持续存在
由于不存在绝对安全的技术保障手段,人脸识别技术与传统身份验证技术一样,均存在被攻破的风险。在人脸识别技术层面,近年来,企业普遍采用了活体检测、加密加签等安全措施,然而黑灰产业针对人脸识别系统的攻击手段也在不断演进,当人脸识别系统在遇见未知攻击的情况下仍存在被攻破的可能。在人脸识别应用层面,各行业领域由于缺少人脸识别技术应用安全指引,尚未形成技术与业务双轮驱动的安全保障策略。
 
     4 对策和建议
构建人脸识别技术应用治理体系,既要全盘考虑、统筹部署,也要突出重点、高效推进,立足当前问题,推进相关工作。
 
     4.1 总体思路
一方面,人脸识别技术应用过程中应秉持三大原则,倡导负责任地使用。一是良性发展原则,人脸识别技术应在大众充分知情的情况下建设和应用;二是权责一致原则,明确个人信息处理者在人脸识别技术建设和应用过程中应承担的责任;三是安全保障原则,在人脸识别技术应用过程中设立安全保障机制,具备应对安全风险相匹配的安全能力。
 
另一方面,应采用场景化规制方式,实现促进人脸识别技术应用发展与保障公民权利之间的有效平衡。根据场景理论,人脸识别技术应用可区分为私人场所应用、公共场所应用。私人场所人脸识别应用,主要是以个人与私人主体的意思自治为主导,用户拥有一定的自主选择权,因此无需进行过于细致的场景化探讨。而公共场所下,由于涉及到公共利益、个人利益以及个人信息处理者利益等多种利益的取舍与平衡问题,具有进一步场景化解构的必要性和特殊性,具体而言可将公共场所人脸识别分别完全应用场景、限制应用场景和禁止应用场景,以解决人脸识别技术的适用问题。
 
在完全应用场景下,应当为维护公共利益所必需。如《中华人民共和国个人信息保护法》规定为维护公共安全所必需,可在公共场所安装图像采集、个人身份识别设备,此时无需个人单独同意。但应当设置显著的提示标识,所收集的人脸识别信息也不能用于维护公共安全以外的其他目的。还应注意,由于此场景下,将个人利益让渡于公共利益,因此需要区分考虑人脸验证、辨识不同功能对个人权益的影响。由于人脸辨识对个人权益影响较大,相较于人脸验证,应当进一步强化其应用要求,以维护重大公共利益作为应用前提。二是在相对应用场景下,应当以落实知情同意规则作为适用前提。与完全应用场景不同,在相对应用场景下,不存在公共安全等利益的考量问题,应当由个人自行选择是否使用人脸识别技术,不得强迫个人使用。同时,还应确保适用人脸识别技术具有必要性。但在同意方式的设计上,应当考虑个人信息处理者与个人利益之间的平衡,采取动态化、较为便捷的同意模式。三是在禁止应用场景下,避免产生伦理道德风险。对于可能引发身份歧视、损害人格权益的场景,应当禁止使用人脸识别技术,为技术的应用划定红线。
 
     4.2 监管的措施
4.2.1 确立人脸识别技术应用评估制度
 
人脸识别技术在被应用前,应当从以下方面开展评估工作:
 
一是对人脸识别技术应用的必要性进行评估。综合人脸识别技术应用主体、场所及手段等因素,对在公共场所和私人场所中应用的人脸识别技术进行必要性评估。具体而言,个人信息处理者应当就技术应用的目的、必要性以及所处理的人脸识别信息的目的、范围等进行详细说明,并在评估过程中分析个人预期,判断处理行为是否超出个人预期范围。
 
二是围绕技术的安全性与合规性展开评估。在安全层面,通过检验人脸识别技术防御主流黑灰产业攻击的能力,以及针对业务应用场景的安全保证策略来衡量人脸识别的安全性。在合规层面,围绕人脸识别信息处理环节、人脸识别信息安全管理、个人权利保障等维度评估针对人脸识别信息的处理是否满足合规性要求。
 
4.2.2 建立便捷式、差异化的同意模式
 
从人脸识别技术应用是否需要获得个人同意来看,可分为两种情形:一种为实现公共利益所需的情形,例如公共安全、公共健康所需等,无需经过个人同意;另一种为需要获得个人单独同意授权的情形。在人脸识别信息处理中,在同意要求方面,可适度放松形式要求,允许采用不同的同意方式,但应对实质要求从严把关。可对不同场景下人脸识别同意模式进行审查,判断该同意模式是否能够避免风险、实现信息安全以及确保个人权益。此外,在个人权益保障方面,应当审查人脸识别技术应用是否设置了个人选择权、退出权等保障机制,能否确保个人对其人脸识别信息的自决。
 
4.2.3 加快构建人脸识别技术应用监管体系
 
鉴于人脸识别技术应用风险较大,应当推行构建全流程、动态化的监管体系。
 
一是以“技术备案”方式加强事前监管。对于在公共场所完全应用场景下的人脸识别技术,由于具有强制性,无需个人单独同意,可考虑要求应用此场景下的人脸识别技术的个人信息处理者向监管部门进行备案,备案内容包括个人信息处理者的安全保护能力、应用必要性、人脸识别信息处理目的、处理方式等内容。
 
二是多管齐下落实事中事后监管。完善人脸识别信息泄露等安全事件的处理机制,定期对研发人脸识别技术的企业开展安全性能执法检查。采用试点、沙箱等监管方式,指导督促相关个人信息处理者落实自身安全管理责任,围绕人脸识别技术应用的全链条进行风险评估,不断提高监管的效率和灵活性。
 
4.2.4 助推行业自律规范落地,建立内生机制
 
治理人脸识别技术应用,还应推动实现立法引导政府激励为主,行业自律为辅的新模式。
 
一是面向电信、互联网等行业领域深入研究人脸识别技术安全应用范式,推动各方机构开展产业交流与技术讨论,共同开发新技术,探索具有隐私保护能力的人脸识别技术应用场景。
 
二是建立人脸识别技术应用的安全动态共享机制,借助产业力量持续监测线上发生的攻击行为,长期追踪黑灰产业攻击动态,及时向行业同步相关情况,提供安全防护建议措施。
 
     5 结束语
人脸识别信息的保护与利用平衡,是需要慎重探讨的问题。一方面,需要加强对技术发展的引导,技术的问题需要用技术来解决。例如推动发展信息加密、区块链存证、标签提示等能够预防和缓解人脸识别信息伪造问题的技术;另一方面,更重要的是,在立法领域形成完善的风险防范和对治体系,强化监管力度。只有充分融合法律和技术手段,才能推动人脸识别技术安全、有序发展。
 
 
[ 资讯搜索 ]  [ 加入收藏 ]  [ 告诉好友 ]  [ 打印本文 ]  [ 违规举报 ]  [ 关闭窗口 ]

 

 
推荐图文
推荐资讯
点击排行
 
网站首页 | 禁售产品总则 | 关于我们 | 联系方式 | 使用协议 | 版权隐私 | 网站地图 | 排名推广 | 广告服务 | 积分换礼 | 网站留言 | RSS订阅