萧箫 发自 凹非寺 量子位 报道 | 公众号 QbitAI
只因和小偷长得像，就被人脸识别“抓”进监狱关了30个小时。
而人脸识别系统的依据，仅仅是一张驾照照片。
这是发生在2019年的事情，被错误逮捕的对象，是一位名叫Robert Williams的黑人男子，在交了1000美元后，他才被保释出去。
据《连线》（Wired）杂志报道称，这可能是同类案件中已知的第一个案例。
而直到现在，这起案件才正式向联邦提起诉讼。
人脸识别错误第一案
事情得从三年前说起。
2018年，一个小偷在一家Shinola零售店偷了几块名表，被店里的监控拍了下来。
监控拍到的图像非常模糊，那名小偷全程没有抬头看监控。
在这种情况下，警方用了人脸识别技术，并仅凭借一张驾照照片锁定了42岁的Robert Williams。
2019年，警方拿着他的照片询问店中的一名保安，后者确定是他，但其实这名保安并没有目击现场事发。
在被逮捕时，Robert Williams刚下班回家，就在自己的妻女面前被警方带走，期间根本没问他是否有不在场证明。
随后，他在监狱里肮脏的水泥地板上躺了30个小时。
直到缴纳1000美元的保释金，Robert Williams才被放出来。
现在，美国公民自由联盟（ACLU）、密歇根大学法学院，代表Robert Williams正式提起联邦诉讼。
从诉讼文件来看，这是在美国第一起因人脸识别错误被非法逮捕的案件。
但Robert Williams想要的，不只是赔偿损失。
他希望这起案件能修改相关政策，以制止人脸识别技术的滥用。
Robert Williams本人表示：
仅仅因为机器算法的问题，就在妻女面前被逮捕，希望这种事情不要再发生在其他人身上。
相似案件不止一起
但事实上，人脸识别“抓”错人的事情，在这之后又发生了好几起。
第二起因人脸识别导致的错误逮捕，同样是一名黑人男子Michael Oliver，他在去年起诉了警察局。
而据NJ Advance Media报道，新泽西州也发生过同样的事情，警方在用人脸识别逮捕一位名叫Nijeer Parks的黑人男子后，将他在监狱关了10天，才发现抓错了人。
在此期间，警方没有验指纹、没有测DNA，仅仅凭借人脸识别系统就锁定了嫌疑人。
目前，Nijeer Parks也仍然在上诉中，新泽西州也已经禁止使用这种软件。
但据了解，数以千计的执法机构已经在采用人脸识别的技术，查找罪犯。
人脸识别系统，却往往并不那么可靠。
2017年的欧冠比赛上，英国警方采用了人脸识别系统，总共发出2470次警报，错误率高达92%。
而美国警方采用的人脸识别软件，通常只依赖于数十亿张社交媒体照片来识别犯罪嫌疑人。
从技术上来说，人们无法从人脸识别中确定某个嫌疑人的唯一性。
该不该用人脸识别？
人脸识别技术，已经被美国警方采用了二十多年。
但来自MIT和NIST的研究人员发现，这项技术对于白人男性的识别效果相对更好，这也和人脸识别数据集中的样本数量有关。
而其他人种，在这类数据集下训练出来的识别效果往往并不理想。
不止数据集。
人脸识别的另一个问题是，监控摄像头会压缩视频图像，导致用来区分嫌疑人的皮肤、静脉和痣等图案被去除、损坏或变形。
事实上，由于采集视频的光照条件不同，一些伪影可能会被误认为是面部特征（如痣）之一。
最重要的是，人脸识别所用的AI模型算法，可解释性非常差，缺乏支持法医意见的经验数据。
目前，微软、IBM和亚马逊等互联网巨头，已经保证不将人脸识别系统出售给警方。
但人脸识别技术本身，却处在了一个有点尴尬的位置上。
一方面是技术伴随的隐私和准确率的问题，另一方面却是它带来的便利性和商业利益。
就连国内售楼部的摄像头，都已经对准了路人，进行“身份识别”。
人脸识别用在哪里、怎么使用，仍旧亟待商榷。
参考链接： [1]https://www.theverge.com/2021/4/13/22382398/robert-williams-detroit-police-department-aclu-lawsuit-facial-recognition-wrongful-arrest [2]https://www.aclu.org/press-releases/michigan-father-sues-detroit-police-department-wrongful-arrest-based-faulty-facial [3]https://www.wired.com/story/flawed-facial-recognition-system-sent-man-jail/
— 完 —
本文系网易新闻•网易号特色内容激励计划签约账号【量子位】原创内容，未经账号授权，禁止随意转载。
量子位 QbitAI · 头条号签约作者
վ'ᴗ' ի 追踪AI技术和产品新动态
一键三连「分享」、「点赞」和「在看」
科技前沿进展日日相见~
