人脸识别技术与应用的风险及治理研究_张溪瑨.pdf

第 卷 第 期 年 月科 学 学 研 究 文章编号：（）人脸识别技术与应用的风险及治理研究张溪瑨，王晓丽（中国人民公安大学法学院，北京；警务物联网应用技术公安部重点实验室，北京）摘 要：作为人工智能领域的落地标杆技术，人脸识别技术具有自然性、非接触性、不易察觉性、并发性等特征。当前，人脸识别技术在公共领域和商业领域得到广泛应用。但与此同时，人脸识别技术缺陷引发的风险和信息处理合法性风险使得人脸信息的保护备受挑战。人脸信息是生物识别信息，属于个人敏感信息。在大数据时代，作为个人信息处理的重要合法性基础，“知情同意原则”在人脸信息保护方面面临实践困境。因此，我国亟需规范人脸识别技术的应用，有必要从法律层面（源头上风险治理）、技术标准（填补式风险治理）、监管沙盒（适应性风险治理）三个角度来完善我国人脸识别技术风险治理体系，在人脸识别技术创新应用与信息主体合法权益之间寻求平衡，从而打造负责任的人脸识别技术。关键词：人脸识别；生物识别信息；知情同意原则；隐私保护设计；监管沙盒中图分类号：文献标识码：此类摄像头是由专门软件公司提供的信息管理服务，与此同时，软件公司自己也收集与分析顾客人脸信息。收稿日期：；修回日期：基金项目：北京市社会科学基金规划项目（）作者简介：张溪瑨（），女，讲师，博士。王晓丽（），女，硕士，通讯作者，：。近年来，随着计算机技术的应用与发展，人脸识别技术已成为人工智能领域的落地标杆技术。年 月，美国市场研究公司 发布的研究报告显示，年全球人脸识别市场规模为 亿美元，预计从 年到 年，在预测期内的复合年增长率为 。然而，在人脸识别技术广泛应用的今天，该技术所带来的社会风险的发生概率亦呈比例增长。继我国人脸识别第一案（郭兵诉杭州野生动物园案）发生之后，年央视“”晚会曝光科勒卫浴门店等商家暗藏摄像头私自捕捉“人脸”信息，以自动匹配顾客的年龄、性别、甚至当时的情绪，使得人脸信息的不当收集与滥用再一次被推上风口浪尖，引发了社会公众广泛关注。因此，我国亟需规范人脸识别技术的应用，寻求人脸识别技术创新应用与信息主体合法权益之间的平衡。人人脸脸识识别别技技术术的的应应用用与与风风险险：人人脸脸信信息息的的规规范范属属性性 随着深度卷积神经网络和大规模数据集的发展，基于深度学习的人脸识别技术取得了显著进展。所谓人脸识别技术，可以简单归纳为通过深度学习算法对脸部信息的特征提取和分类识别，从而进行身份识别的一种生物识别技术。该技术可用于识别照片、视频或实时人物，其工作流程主要包括五个步骤，即图像采集、人脸检测、特征提取、数据库比对、身份识别。与传统生物特征识别技术（例如，指纹识别、声纹识别、虹膜识别）相比，人脸识别技术具有以下特点：（）自然性，即人脸识别技术通过观察人们所具有的自然性的脸部生物特征来进行身份的确认；（）非接触性，即人脸识别技术无需被识别主体的配合，与设备未接触的情况下直接通过摄像头在一定距离内便可实现识别；（）不易察觉性，即人脸识别技术利用可见光即可主动获取人脸数据，而不被被识别主体察觉，因而更容易获得；（）并发性，即人脸识别技术在实际应用场景下可以同时进行多个人脸的分拣、判断及识别。基于以上特征，人脸识别技术具备身份认证、识别与追踪、影响行为主体的选择等多项功能，因而在公共领域和商业领域得到了广泛应用。人脸识别技术的应用场景（）人脸识别技术的公共应用人脸识别技术在社会治安领域和公共服务领域DOI:10.16192/ki.1003-2053.20220701.003科 学 学 研 究第 卷发挥着重要作用。通过实现“人脸”的数据化，进而间接地实现“人”的数据化，人脸识别技术极大提高了政府执政执法能力。一方面，人脸识别技术在刑事侦查、治安管控、各类安保等社会治安领域颇具成效。例如，公安机关通过人脸识别技术与视频监控系统结合，加上与目标人群的人脸信息库进行对比，即可快速识别出目标人群进行抓捕。另一方面，人脸识别技术在公共服务领域得到了广泛应用，有助于实现精准治理，提高社会管理水平。例如，深圳市在 年实现退休人员“刷脸”领取养老金，利用人脸识别技术进行身份核验。（）人脸识别技术的商业应用随着互联网与计算机技术的深入发展和深入应用，人、事、物都被数据化，数据成为新的生产要素，具有极大的商业价值。以刷脸支付为例，自 年以来呈现爆发性增长之势，被广泛应用在酒店、零售餐饮、移动支付客户端、金融类 等应用场景。顾客只需对准刷脸设备上的摄像头刷脸认证后，即可完成全部交易流程。此外，人脸作为社会交往的强大媒介，可以反映出包括身份、性别、年龄、身体健康、吸引力、情感、个性特征、社会地位等信息。因此，基于人脸信息的用户画像与个性化推荐在商业营销领域广泛使用。如果说早期的互联网是“人找信息”，那么随着用户画像与个性化推荐的普遍化，如今的互联网开始越来越多的迈向“信息找人”的阶段。此外，人脸识别技术在娱乐软件和社交媒体中同样得到了广泛应用。综上所述，人脸识别技术在公共领域和商业领域的应用带来了诸多便利，然而，与此同时，人脸识别技术的大规模应用使得人脸信息保护备受挑战。人脸识别技术应用风险当前，人脸识别技术应用风险主要来源于技术缺陷引发的风险和信息处理合法性风险。（）技术缺陷引发的风险人脸识别技术具有复杂性特征，与传统生物特征识别技术相比，人脸识别的技术要求是最高的。随着人脸识别技术的门槛降低，技术缺陷引发了安全性、准确性等方面的问题。第一，安全性风险。技术缺陷引发的安全性风险以欺骗攻击为典型。所谓欺骗攻击是指一种错误接受，即攻击者向人脸识别系统提交虚假证据以获取身份验证。由于通过社交网站或远处拍摄的方式便可以获取他人的照片或视频，人脸识别系统很容易受到欺骗攻击。攻击者可以通过将未经授权的渠道获得的照片和录制的视频显示到设备上来访问系统，具体分为 欺骗攻击（照片攻击、视频攻击）和 欺骗攻击（面具攻击）。目前，基于降低成本等因素的考量，技术服务商大多选择 技术，无形中增加了欺骗攻击的安全风险。例如，年，几位小学生用打印照片就能利用丰巢快递柜的刷脸取件功能。此外，年，瑞莱智慧 团队通过打印眼睛部位图案并裁剪后贴到眼镜上，分钟便破解 款国产手机的 人脸识别。同样，人脸识别技术也存在破解风险。美国 公司用特质的 面具成功欺骗了包括支付宝和微信在内的诸多人脸识别支付系统。第二，准确性风险。人脸识别技术的应用关键在于匹配的概率。尽管近年来人脸识别技术的准确性已大大提高，但其准确性仍受到多种因素影响，包括摄像头质量、光线、距离、算法等因素。此外，有研究发现，肤色、性别、年龄、身高、眼镜或头巾也会影响准确性。美国国家标准技术研究院的测试发现，人脸识别技术通常在肤色较浅的男性上表现更好，在肤色较黑的女性上表现较差。此外，人脸识别技术在儿童和老年人身上也表现不佳。因此，上述差异可能导致对某些人口的错误识别更加频繁。例如，在个人图像与已知的行窃者的数据集进行比较时，将购物者错误地识别为行窃者。一份报告显示，在 年的欧冠决赛中，英国南威尔士警察局的面部识别系统在 次匹配中，错误率约为，如此可能导致错误的逮捕以及拖延警察工作。因此，随着人脸识别技术的广泛部署，提高人脸识别技术的准确性，以减少与错误识别有关的风险显得尤为紧迫。（）信息处理合法性风险人脸信息的直接识别性带来极大的公共管理价值和商业价值，这便成为各类主体过度收集、存储、使用人脸信息的驱动力。人脸信息处理合法性风险主要包括以下几个方面：第一，收集和存储合法性风险。当前，人脸信息不当收集和存储问题日益突出。例如，年，推出了“标签建议”功能且设置为默认激活。在未征得用户同意的情况下，系统使用人脸识别技术为用户照片自动添加建议标签，并且将人脸信息存储在自己的数据库中。这一行为遭到集体指控，被指控侵犯用户的隐私权。此外，年，第 期张溪瑨 王晓丽：人脸识别技术与应用的风险及治理研究针对小区安装人脸识别门禁，清华大学法学院劳东燕教授分别向物业公司和居委会寄出法律函，认为在小区安装人脸识别装置并无必要，并且未经同意收集人脸数据违反现行的法律规定。第二，使用合法性风险。人脸背后蕴含着广泛的信息内涵，借助于大数据的数据整合和分析能力，便可建立更加详细的个人画像。然而，在此过程中，往往容易出现使用不当问题。例如，年 月，宿州市城市管理局在官方公众号上以“曝光不文明行为，提高市民素养”为题，利用人脸识别技术公开曝光穿睡衣在街上行走的 位市民，内容包括市民的姓、部分身份证号、不文明行为发生地和证件照，甚至从图片中可以清晰看到被曝光市民的面部五官，从而引发舆论关注，最后当地城管局回应致歉。又如，年 月，一则“戴头盔看房”的视频在网上流传，原因在于售楼处利用人脸识别区分客户来源，从而给予差异性优惠政策。据媒体报告，目前有以上售楼处安装了人脸识别系统。第三，泄露风险。目前，人脸信息泄露事件层出不穷。年，荷兰安全研究员 在社交网站上表示，我国深圳市深网视界科技有限公司的数据库暴露在网上且无密码保护，超过 万人的数据可被获取，其中包括身份证信息，人脸识别图像及捕捉地点等，共计 万条记录泄露。又如，年，全国公安机关破获窃取、贩卖人脸数据案件 起，抓获犯罪嫌疑人 名。由于人脸信息具有唯一性、永久性和不可替换性，人脸信息一旦泄露，将给国家安全、企业和个人隐私等造成极大的安全隐患。人脸信息的规范属性情境脉络完整性理论（）将隐私概念与信息交换时的情境脉络联系起来，强调要着眼于信息的使用过程和适当性标准。一方面，信息汇编和组合的过程总是伴随着信息的转移，信息组合者将信息抽离原本合适的情境，并将其嵌入到信息主体不了解的情境中，这就等于破坏了信息原本的情境；另一方面，信息组合的危害巨大，因为尽管零碎的信息的泄漏不会对信息主体造成过大的伤害，但是信息组合、汇集成一个信息组合体之后，会使信息主体被别人牢牢地记住，从此信息主体的宁静生活将被打破。人脸信息作为生物识别信息的一种类型，属于个人敏感信息。基于人脸的整体特征或局部特征，可以获取个人的身份、性别、年龄、种族、性取向、身体健康、吸引力、情感、个性特征、痛苦、欺骗以及甚至社会地位等信息。与其他个人信息相比，人脸信息具有独特性、直接识别性、不可更改性、易采集性、不可匿名性等特征。人脸信息保护之所以面临严重挑战，源于人脸识别技术具有上述多种技术特征。一旦泄露或者滥用，可能会给个人带来难以弥补或永久性的伤害与损失。因此，相比于一般个人信息，作为个人敏感信息的人脸信息理应受到更为严格的保护。随着人脸识别技术的日臻成熟，其应用范围愈发广泛，在涉及公共安全和核心公共利益的应用领域，人脸识别技术发挥了巨大作用，且个人信息保护法规定其在此类合理的应用范围内使用无需征得个人同意。相反地，对于商业领域的人脸识别技术应用，“知情同意原则”是首要合法性基础，而在现实实践中，人脸识别技术普及应用的主要法律风险和规制难点集中于此。人人脸脸识识别别技技术术现现有有立立法法考考察察：知知情情同同意意原原则则下下的的实实践践困困境境 针对人脸识别技术的应用风险，世界各国（地）通过立法予以规制，其中以欧盟和美国为典型代表，并形成了以“知情同意原则”为人脸识别信息处理的重要合法性基础。由于政治、经济、文化、法律传统的差异，二者选择不同的规制路径。美国采取专门立法模式，具有较强的针对性，注重对生物识别信息处理者的法律规制，有专门的法律概念群及对概念内涵的详细阐释，但保护方法、保护措施较为单一。而欧盟采取综合立法模式，即通过制定统一的个人信息保护法对包括人脸信息在内的生物识别信息进行加强保护，保护层级清晰，具有系统化的保护效果。美国专门立法模式美国在联邦层面尚无统一立法规制人脸信息的收集和使用，采取各州分别立法的方式。伊利诺伊州、德克萨斯州、华盛顿州 个州陆续颁布专门针对商业滥用生物特征信息的法律。其中，以伊利诺伊州于 年通过的美国第一个专门规范生物数据收集使用的法律 生物识别信息隐私法案（，简称）最具有代表性。人脸信息属于生物识别信息的一种，该法案规范除政府之外的私人实体收集、使用、维护、处理、保存和销毁生物识别信息的行为，具体包括：科 学 学