如何做到让技术“不作恶”,以及“向善”,才是我们最应该关注的事情。
策划&撰写:伶轩
还记得去年10月的一起人脸识别相关案件吗?
一位浙江理工大学的特聘副教授将杭州野生动物世界告上法庭,认为该动物园强制收集个人生物信息,时隔8个月,近日这起案件终于开庭了。
作为案件的原告,郭兵起诉的目的其实不在经济补偿,他认为“这是对目前人脸识别技术滥用的一种斗争”。
何为“人脸识别第一案”?
可以看到,当前人脸识别技术已经被应用到各类场景中,其中更不乏强制要求录入信息的情况,如酒店入住等,也有很多人对此非常不满,但将其诉诸公堂的,郭兵是第一人。也因此,此案被称为“人脸识别”第一案。
2019年10月底,郭兵以消费者名义将杭州野生动物世界告上法庭,起因是“杭州野生动物世界在没有协商、征得他同意的情况下,以短信的方式通知他‘园区年卡系统已经升级为人脸识别系统入园,原来的指纹识别系统已经取消,如果不进行人脸识别注册将无法正常入园。’”
接到短信后,郭兵专门去到杭州野生动物世界进行核实,园方明确向他表示,“如果不进行人脸识别注册就无法入园,园方也不会为购买年卡的消费者办理退卡、退费手续。”
而作为杭州野生动物世界的年卡消费者,郭兵所购年卡期限为2019年4月-2020年4月26日,价值1360元,按照购卡时的规定,他可以在有效期限内通过验证年卡及指纹入园,游玩次数不限。
对此,郭兵认为“人脸识别系统收集他的面部特征等个人生物识别信息,这一类信息属于个人敏感信息,如果泄露、非法提供或者滥用,将很有可能危害自己的人身和财产安全”,并向杭州市富阳区人民法院提起诉讼,状告杭州野生动物世界未经同意,就通过升级年卡系统强制收集个人生物识别信息严重违反了相关规定,并且损害了自己的合法权益。
而杭州野生动物世界则认为,“使用人脸识别系统入园的目的在于方便消费者快速入园,目前园方也给出了折中方案,即‘不必注册人脸信息,刷年卡也可以入园’,但由于指纹识别系统已停用,消费者每次入园须到年卡中心核实身份,证明是本人使用。”
此次开庭,郭兵要求确认被告店堂告示和短信通知中相关内容无效,退还年卡卡费、赔偿交通费并删除原告个人信息等。不过,被告称是在原告知情同意的情况下收集个人信息的,双方订立的服务合同合法有效,原告要求确认店堂告示、短信通知内容无效的诉讼请求应予驳回。
至于谁是谁非,富阳市人民法院表示本案将择期宣判。不难看出,郭兵将杭州野生动物世界告上法庭,是他重视隐私安全的直接表现,而随着科技的不断发展,技术与伦理之间该如何平衡,也必将成为研发人员、企业和用户都需慎重考虑的事情。
伦理与技术之争,科技应当“向善”
1999年,谷歌提出了一项非正式公司口号——永不作恶,这也成为了该公司后来数十年的企业宗旨。
2019年,马化腾发布朋友圈,首次对外透露“科技向善”将成为腾讯新的愿景与使命。
相隔20年,从谷歌的“不作恶”到腾讯的“科技向善”,其实都是在强调一件事:技术的发展应当是服务人类,而非“为恶”。
人脸识别技术也一样。
就在本月,IBM宣布不再开发、提供任何人脸识别相关技术。该公司CEO Arvind Krishna称,“IBM反对使用任何技术(包括其他供应商提供的人脸识别技术)来监视大众、种族定性、侵犯基本人权和自由,以及用于任何与我们价值观及原则不一致的目的。”
与此同时,IBM成为了第一家直言放弃人脸识别相关技术与产品的美国科技巨头,但并不是唯一。
几天后,亚马逊发布简短声明,宣布暂时禁止美国警方使用自己的人脸识别技术Rekognition,并持续一年时间;微软也表示将不再向美国警察部门出售人脸识别技术,直到有一项以人权为基础的强有力的国家法律出台。
可以看到,相比于其他前沿AI技术的研发与落地,人脸识别技术所受的争议更多,因为它收集的是人的面部信息,是最直接的识别、判断身份的技术之一。
但不可否认,人脸识别技术确实为生产、生活带来了更多的便利和效益,在用户自愿的情况下,如在支付、业务办理、安检等,甚至是游戏、社交等场景中,相关技术的应用也大大提升了效率。
也因此,即便是IBM宣布放弃人脸识别,也只是不再提供通用的人脸识别或分析软件,也不再宣传、推销和更新这些产品,但依旧会在出现需求时为现有的客户提供服务。
较为形象的说,包括人脸识别技术在内,科技的发展其实一直是一把双刃剑,而如何做到“不作恶”,以及“向善”,才是我们最应该关注的事情。