// 新刊推荐
// 中经传媒智库

“人脸识别第一案”,敲响技术滥用的警钟

原创 作者:陈茜 / 发布时间:2021-03-03/ 浏览次数:0

备受关注的“人脸识别第一案”在二审过后仍未宣判。作为法律方面的学者,这起诉讼案的原告,浙江理工大学特聘副教授郭兵,将诉讼课堂搬到了现实生活中。
 
在人工智能的大潮中,人脸识别技术席卷而来,其背后的安全风险、使用边界,以及对个人信息保护权利的尊重,随着“第一案”的热度,讨论也随之升温。
 
这起案件不仅是一家公立野生动物园与年卡会员之间的服务纠纷,更重要的意义在于对技术使用边界和规范的追问——对新技术的推崇是否会造成滥用?当不必要的信息采集没有足够的技术保障时,个人的安全感何处安放?
 
逛动物园,必须“刷脸”?
 
根据郭兵给到《商学院》记者的相关材料显示,2019年4月,他带着妻子和孩子在去参加同学婚礼的路上,顺道去了位于富阳区的杭州野生动物世界。在工作人员推荐下,他们决定购买双人年卡。在支付完1360元并拿到发票后,工作人员才告知需要录入指纹信息,并且称这是年卡用户唯一入园方式。
 
此时,野生动物世界的店堂告示中也明确写着“凭年卡及指纹正常使用(同时验证年卡及指纹入园)”。在这种情况下,他和妻子录入了指纹,并拍了照。当时他以为拍照只是为了在年卡附上持卡人照片信息,后来才知道,这其实是在收集用户面部特征信息用于人脸识别。
 
虽然对指纹采集的安全性已经有所顾虑,而真正引发这一诉讼行为的是一条短信。
 
2019年10月17日,杭州野生动物世界发来短信称,园区年卡系统已升级为人脸识别入园,原指纹识别已取消。即日起,未注册人脸识别的用户将无法正常入园。
10月26日,郭兵和妻子再次前往杭州野生动物世界,确认了该短信内容,店堂告示牌上明确只有人脸识别一种入园方式,工作人员也表示必须人脸识别才能入园,指纹和年卡均无法入园。
 
同时,年卡会员只需要“激活”人脸识别即可,不需要再次拍照。原来之前购买年卡时拍的照片,已经经过特定技术方式处理,形成了生物识别数据。
 
逛动物园必须要“刷脸”?郭兵与妻子产生分歧,因妻子不同意人脸识别而导致无法正常入园。
 
最终,由于就入园方式、退卡等问题,郭兵与野生动物世界协商未果。10月28日,郭兵向杭州富阳区法院起诉野生动物世界,要求确认杭州野生动物世界里的店堂告示和短信通知中要求指纹识别和人脸识别等相关内容无效,退还年卡卡费1360元,赔偿交通费1160元并删除原告全部个人信息等。
 
同年11月20日,一审公开宣判,法院判决杭州野生动物世界赔偿当事人郭兵合同利益损失及交通费1038元,删除其办理指纹年卡时提交的包括照片在内的面部特征信息。但是,驳回了郭兵提出的店堂告示和短信通知中指纹识别和人脸识别相关格式条款内容无效的四项诉讼请求。
 
一审法院根据《消费者权益保护法》第29条规定认定,杭州野生动物世界以甄别用户身份,提高用户入园效率为目的使用指纹识别具有合法性,只是对郭兵没有发生法律效力。
 
郭兵和杭州野生动物世界对一审判决结果均表示不服,分别向杭州市中级人民法院提起上诉。
 
据了解,一审判决之后,杭州野生动物世界依旧“强制”消费者“刷脸”入园。
 
杭州野生动物世界是否存在“强制”年卡用户使用指纹、人脸识别方式入园,以及采集消费者个人生物信息是否违反了“合法、正当、必要”原则成为争议焦点。杭州中院将择期作出二审判决。
 
郭兵向《商学院》记者表示,目前二审法院还没有任何进展通知。
 
郭兵认为,根据《消费者权益保护法》第18条、第29条,明确了被告对消费者个人信息负有安全保障义务,杭州市野生动物世界的行为包括但不限于违反了“合法、正当、必要”原则。其中,被告应当对指纹识别、人脸识别等信息采集的安全风险作出明确警示,对安全保障做出说明。在实际情况中,野生动物世界并没有做到。
 
在郭兵看来,指纹、人脸数据明显超出了验证会员身份需要的必要信息范围。根据《信息安全技术个人信息安全规范》规定,这些属于个人生物识别信息,具有敏感性,一旦泄露、非法提供更或者滥用将极易危害个人人身和财产安全。
 
特别是在办理年卡拍照时,杭州野生动物世界并未告知用户采集的信息将用于人脸识别。
 
郭兵认为,这一做法与《消费者权益保护法》《网络安全法》相关法条所规定的“知情—同意”要求严重不符,属于“瞒天过海”“先斩后奏”,主观上有严重欺诈故意。
 
“如果不对这种严重欺诈行为加以禁止,岂不是所有商家都可以打着‘拍照’的旗号,将消费者面部特征等生物识别信息‘偷走’,个人信息保护势必会沦为空中楼阁。”郭兵在上诉状中写道。
 
郭兵在浙江理工大学教授《网络安全法》和《诉讼法》等实务课程。他将个人的亲身经历变为一次与个人信息安全相关的诉讼实践。
 
“第一案”的意义何在?
 
中国社科院科学技术和社会研究中心主任、研究员段伟文在接受《商学院》记者采访时表示,在中国,与个人信息保护和权利主张等相关工作,主要是由法律工作者来推动。这起案件的意义在于,让社会对人脸识别技术滥用情况引起重视。很多人对这种技术的广泛应用心存顾忌,但是又无法改变现状。郭兵把这种焦虑变成了行动,既维护自己的权利,也通过媒体引起了社会关注和讨论。
 
“人脸识别第一案”中,关于杭州野生动物世界入园采用人脸识别的必要性和安全性是争议的焦点。
 
段伟文表示,目前这一案件还没有定论,主要原因与判决结果不是站在一位普通消费者的立场上去讨论,必然会导致这种未定论的局面。
 
对于类似人脸识别技术存在滥用的危害,段伟文指出,未来生物信息识别技术会越来越先进、越来越强大,就像武器一样,如果不事先制定相关的伦理规范、法律规范加以限制就贸然使用,不管什么人和什么场景都可以滥用,必然会带来一定的风险,甚至是危害。
 
他指出,人脸识别、人工智能等数字技术作为一种泛在的集成技术,可以赋能很多应用场景,但是,企业不能只看到赋能的一面,而忽视技术滥用带来的侵害。科技时代的美好生活,不仅要强调科技赋能,同时也要重视赋权,即赋予社会公众、普通个体对自我权利的主张。与个体相比,政府、企业机构在知识和信息掌握上有相对优势,这种不平衡情境下,更应该重视对个人权利的赋予。
 
“只有对可能存在的‘技术霸权’保持反省态度,进行调控规范,才能减少科技‘利刃’带来的伤害。”段伟文说道,“智能化的社会治理应该克服不计成本、不考虑社会负面影响的新技术滥用,避免陷入打着科技赋能和技术治理旗号的各种形式的‘机器官僚主义’。”

除《商学院》杂志署名文章外,其他文章为作者独立观点不代表《商学院》杂志立场,未经允许不得转载。版权所有

欢迎关注平台微信公众号

 点赞 30
 收藏 20