人工智能的“天罗地网”

整理 | 弯月

编辑 | 郭芮

来源 | CSDN（ID：CSDNnews）

人工智能（AI）技术正在全球迅速崛起。不断涌现的最新发展令世人瞩目，从以假乱真的深度伪造视频，再到先进的算法——足以在多人扑克大战中击败世界上最好的玩家。但是，AI所引起的道德问题也受到越来越多人的关注。

为了正确地解决这项技术带来的影响，我们需要了解这些工具的部署情况以及它们的使用方式。本文汇集了全球176个国家AI监控使用的数据，将为你呈上一份人工智能全球监控指数（AI GLOBAL SURVEILLANCE，简称AIGS）报告。报告的主要发现包括：

• AI监控技术的传播速度超出了专家的预期。全球176个国家中，至少有75个国家正在积极利用AI技术进行监控。
• 中国是全球AI监控的主要推动者。与中国相关的公司（特别是华为、海康威视、大华和中兴通讯）为63个国家提供了AI监控技术，无人出其右。
• 但中国并不是全球范围内唯一一个提供先进监控技术的国家，美国公司也在积极参与。其他自由民主国家（法国、德国、以色列、日本）的公司也在扩大这项技术方面发挥着重要作用。
• 国家的军事支出与政府使用AI监控系统之间存在着密切的关系：全球50个军事国家中有40个使用了AI监控技术。
• “2018年网络自由”报告指出，全球65个国家中有18个国家使用了中国公司开发的AI监控技术。本报告显示，2019年，在这65个国家中使用了中国AI监控技术的国家数量已增至47个。

AI全球监控指数简介

人们一度认为AI技术只会出现在科幻世界里，但如今这些技术已经渗透到了生活的方方面面。为我们的智能手机提供动力，推荐我们喜欢的音乐，并为我们提供社交媒体信息——AI最强大的地方就在于无孔不入。

按照计算机科学家Nils Nilsson的说法，一般而言，AI的目标是“实现机器的智能化”，具体方法是自动化或“让实体能够在环境中正确地运行并具有一定的预见性”。AI不是某种特定的技术，我们应该将AI视作集成系统，其融合了获取目标信息、逻辑推理原则和自我纠错能力。AI的一个主要子领域是机器学习，这是一个统计过程——通过大量的信息分析来识别模式以及解释当前数据和预测未来。该领域有几项突破性的新成就：成熟的机器学习以及刚刚崭露头角的深度学习；云计算和在线数据收集；新一代先进的微芯片和计算机硬件；复杂算法性能的提升；以及其他由市场驱动的AI技术的新用途。

如果不出所料的话，AI的影响远远超出了个人消费者的选择范围。AIGS指数的发现得出了三个关键性的见解。

首先，全球范围内AI监控技术的使用正在迅速蔓延。75个国家/地区（占评估国家的43%）正在以合法和非法的方式部署AI监控。“2018年网络自由”报告表示，经过对65个国家进行评估后，发现有18个国家都在使用中国公司的AI监控技术。一年后，AIGS指数发现同一批国家中有47个国家/地区目前正在部署中国公司提供的AI监控技术。

下图1显示了采用了AI监控技术的国家占各自地区的百分比：

其次，中国是AI监控技术的主要供应商。报告发现全球至少有64个国家采用了与中国公司相关的技术，仅华为一家就负责向至少50个国家提供AI监控技术。然而，中国并不是唯一一个提供先进的AI监控技术的国家，法国、德国、日本和美国也积极地参与了该领域。

下图2显示了该行业的龙头公司：

第三，自由民主国家也是AI监控技术的主要用户。AIGS指数显示，有51%的高级民主国家部署了AI监控系统。相比之下，部署了AI监控技术的封闭式专制国家占37%，选举专制/竞争性专制国家为41%，而选举民主/自由民主国家为41%。自由民主政府正在积极地利用AI工具来监视边界、逮捕潜在的罪犯、监视公民的不良行为，以及从人群中找出可疑的恐怖分子。

AI监控的类型

下面来介绍主要的AI监控技术，报告详细介绍AIGS指数考虑在内的三种AI监控工具：智能城市/安全城市平台，面部识别系统，以及智能警务。此外，其中还描述了为了让AI监控工具正常运行而需要的技术，特别是云计算和物联网（IoT）网络。不过，这些技术的采用并没有被AIGS指数考虑在内。

更重要的是，AI监控并不是独立的控制工具，而是形成了一整套数字化控制工具——通过信息和通讯科技来监控、威慑、强迫和骚扰对手，从而给目标施加压力，迫使其放弃进行特定的行为。

表1总结了每一种技术和相应的全球部署情况。

表1 AI监控技术总结和全球普及程度

世界银行认为，智能城市是“科技密集”的城市中心，利用传感器阵列，从“几千个互联的设备”上实时收集信息，从而改善服务提供和城市管理。该技术可以帮助当局管理交通堵塞，将紧急响应车辆调配至需要的位置，促进可持续能源的使用，以及让管理过程流水化。

但人们越来担心，智能城市也会大幅度地增加公共监控和侵入式安全问题。智能城市的创造者之一IBM设计了一种像大脑一样的城市模型，有关城市运营的信息会集中起来进行处理和分析。IBM的智能城市的关键部分之一就是公共安全，该功能使用了传感器阵列、跟踪设备和监视技术来提高警察和安全执法部门的能力。

华为在智能城市的公共安全方面也走在前列。华为向执法部门宣传的“智能城市”的功能为“预测、防止并减少犯罪”和“解决新的威胁”。在2016年发表的一份白皮书中，华为描述了“一套包含视频监控、紧急视频通信、集成事件指挥和控制、大数据、移动和安全的公共安全云等的科技”，用于支持本地的执法部门、警察以及司法系统。值得一提的是，在中东，该平台可以防止“极端主义”；在拉丁美洲，智能城市可以让政府减少犯罪；在北美，该技术可以帮助美国推进“反恐”计划。

在所调查的75个国家中，已至少有56个国家的与公共安全有直接关系的智能城市平台部署了AI监控技术。

面部识别系统

面部识别为利用生体技术，将摄像头（静止图像或视频）存储下的图像或实时视频在图像数据库中进行匹配的技术。并非所有系统都着重于数据库匹配，一些系统会评价总体的统计趋势，或者根据人群的面部识别结构进行广域的情感分析。

不同于已在警务系统中服务了25年之久的闭路电视系统，面部识别摄像头更具侵入性。它们能扫描独特的面部特征，为每个人建立详细的生体映射，而这一切都无需获得许可。通常，面部识别监视摄像头都非常便携，而且可以进行伪装。例如，马来西亚的安全部门与中国的安全公司依图合作，为警察配备带有面部识别的便携摄像机。这样警察就可以“迅速地将摄像机拍摄的照片与中心数据库的图像进行对比”。

在报告里，专家们详细解释了与面部识别有关的几点担忧。

首先，关于图像数据库（用于存储面部识别摄像头捕获的图像的数据库）的访问和使用的法规非常少。政府如何使用这些信息，图像应该存储多久，执法部门从何处获得第一手数据，这些都是不透明的，而且各个地区都不一样。

其次，面部识别技术的准确度波动非常大。特定的测试表明，面部识别技术的误识别率非常高。最近的一份关于英国大都会警察局的独立调研报告表明，它应用的面部识别技术的错误率高达81%。类似地，美国的警用摄像头制造商Axon也宣布他们将在产品上去除面部识别功能。Axon的道德委员会表示：“面部识别技术目前还十分不可靠，无法从道德上评判其使用效果。”

但其他的评测对面部识别技术给出了正面的评价。2014~2018年间，美国国家标准技术研究所对于39家开发商提供的127中算法进行了评测，表明“在搜索数据库、找到匹配的照片方面，面部识别的效果要好20倍。”与同期相比，失败率从4%降到了0.2%。

如此巨大的差异的原因之一是，面部识别在理想条件下效果非常好。但当遇到不可预测的条件——例如恶劣的天气状况，或模糊的图像等——时，失败率就会直线上升。面部识别技术也不能避免性别和种族偏见，因此对于少数族裔和女性的假阳性判断率很高——“肤色越深，错误率就越高，黑人女性的图像的错误率几乎达到了35%。”纽约时报的Steve Lohr如是说。

面部识别系统迅速在全世界受到欢迎。指数表明，至少64个国家在AI监控计划中主动地采用了面部识别系统。

智能警务

智能警务背后的思想是将大量的数据输入到算法中，包括地理位置数据、历史犯罪率、犯罪类型、生体数据、社交媒体数据等，从而达到避免犯罪，实现对于犯罪的快速响应，甚至能够预测未来的犯罪行为。

备受关注的领域之一就是预测性警务。2009年，在美国司法部对该项技术的研究开了绿灯之后，该技术在美国的发展一日千里。该技术的核心是，根据大量数据的分析，预测出何时实施犯罪、针对何人实施犯罪。预测性警务受到了普遍关注。例如，预测性分析程序PredPol已经被部署到了“全国超过60个警察局”。

但在看到预测的有效性的同时，人们也越来越多地担心算法的倾向和偏见。最近，Caroline Haskins在给Vice提供的报道中描述了PredPol的预测性犯罪的预测算法的原理。PredPol的软件能在“最小500x500平方英尺的范围”内为警察提供犯罪预测，这个范围已经足够定位到一栋房子。它的假设是“特定时间点，特定的犯罪更容易出现在同一地点”。PredPol表示，该程序“利用每个新城市的历史事件数据来训练算法（理想状况下2~5年的新数据），然后利用每天从警察局收到的新事件来更新算法。”新的预测会在Google地图上以红框标记，表示高风险区域，以引起巡逻警察的注意。PredPol的弱点之一就是它利用过去的犯罪行为和逮捕来预测未来。已经被警察“特别关注”的特定少数族裔社区，出现在PredPol中的频率也非常高。

至少有53个采用了AI监控的国家应用了智能警务系统。

AI监控所需的技术

另一类技术不是直接负责监控的程序，而是负责提供实现应用程序必不可少的关键功能。如果没有云计算功能，那么高级视频监控和面部识别摄像头将无法运行。一位专家曾说，如果视频监控是“眼睛”，那么云服务就是“通过5G网络将摄像机和硬件连接到云计算模型的”大脑”。然而，云计算并非为了监控而生。因此，我们可以将这些辅助技术归为“AI监控所需的技术”，如下表所示。

表2：AI监控所需的技术

自动边境控制系统

这些技术主要应用于国际机场和边境。根据咨询公司埃森哲的说法，自动边境控制系统（AUTOMATED BORDER CONTROL SYSTEMS，简称ABC系统）利用“多模式生物特征匹配”（结合面部识别或其他生体识别与读取电子护照）来处理入境。从乘客走入多摄像机前时启动该系统，摄像头旁边的数字镜可以吸引乘客的眼睛，然后进行图像捕获，再针对个人护照和某些安全监视列表自动验证身份，并以此完成风险评估。未能通过系统的人员必须接受人工的二次检查。

很多政府还使用了自动边境控制系统的新功能，例如自动测谎技术。例如，欧盟的三个国家（希腊、匈牙利和拉脱维亚）正在测试一种名为iBorderCtrl的技术，并利用该技术筛查过境点的移民。在这个过程中，系统会询问个人有关其原籍国和离境情况的问题。然后通过基于AI的测谎系统对答案进行评估。所有诚实回答了问题的人就可以过境，而未曾通过测试的人则会被转移给边防人员，接受进一步的询问。

云计算

越来越多的政府和公司数据存储在异地的云上，然后通过互联网访问。云计算是一种通用技术，包括GPS地图、社交网络和电子邮件通信、文件存储以及流媒体内容访问。云计算数据中心是互联网的骨干，可以即时存储、通信和传输所产生的信息。因此，云计算对于AI系统至关重要。微软、IBM、亚马逊、华为和阿里巴巴都为促进AI操作而建立了数据中心。

接受云计算的国家越来越多，而且很多政府都会将所有数据存储需求外包给某个公司平台。例如，2018年，冰岛与微软签署了一项服务协议，让微软承担该国整个公共部门唯一的IT供应商。云计算的趋势也并非没有问题。首先，云服务会成为网络黑客的攻击目标。NSO Group等安全公司声称，他们能够穿透云服务器并访问目标的“位置数据、归档的消息或照片”，因此，很多人都质疑云计算公司是否应该保留个人信息、公司机密、机密的政府材料或健康记录安全。

物联网

物联网的关键在于，越来越多的设备通过互联网相互连接，并允许云端的分析处理访问数据。物联网的主要难题在于设备之间缺乏互操作性。当前，iPhone、Alexa扬声器、Nest温控器和OnStar自动系统都可以在不同平台上运行并使用不同的信息源。物联网的目标是攻克这项难题，并确保设备集成和数据聚合（尽管亚马逊、苹果和谷歌等公司统统建立了独特的生态系统，但这些生态系统与其他平台的互操作性非常有限）。虽然物联网能带来高效，但也有可能将传统的非联网设备（例如智能扬声器）转变为无所不在的监视工具。

围绕物联网技术的争议越来越大。2019年初，有人披露亚马逊的数千名员工听了Echo智能扬声器记录的对话。此外，是否应将与犯罪有关的记录移交给执法机构，有关这个话题的争议也非常多。此外，也有迹象表明，谷歌和Facebook的承包商一直在定期收听其平台与个人消费者之间的录音。

物联网支持的移动监视是此类技术的另一种可能性。记者Andy Greenberg表示，最近展示的一种新设备可以介入特斯拉Model S或Model 3汽车中，并将内置摄像头“变成在一定时间段内定位、跟踪和存储车牌和面部的系统”。在车主停好车后，“该系统可以跟踪附近的人脸，看看哪些人反复出现。”该设备的目的是警告车主，防止小偷和故意破坏。但是，正如设备的发明者Truman Kain承认的那样，“这款设备也可以将特斯拉变成AI监控器”。

总结

AI监控技术在不断蔓延。但是，AI所引起的道德问题也受到越来越多人的关注。专家们对面部识别错误率以及少数群体的误报率表示深深的担忧。越来越多的公众意识到AI训练数据集中的算法偏差，及其对预测性警务算法和执法机构使用的其他分析工具产生的偏见影响。甚至是意图良好的物联网应用程序（智能扬声器、远程无钥匙门锁、汽车智能仪表板显示器）也可能带来被监控的烦恼。

尽管有人认为边境控制系统的基础是错误的科学和未经证实的研究，但各国已经开始尝试这项技术（例如iBorderCtrl等）。如果负面影响不断扩大，有可能会导致这项技术的停滞。有关高级监控技术的准确性、公平性、方法一致性和偏见的影响等令人担忧的问题也会逐步浮出水面。

本文的报告旨在重点介绍这种尚未被很好地理解、但会越来越多地影响现代生活的技术的新兴趋势。不过好在我们还有足够的时间，就AI技术、监控和公民隐私权之间的适当平衡展开急需的公开辩论。

参考链接：

https://carnegieendowment.org/2019/09/17/global-expansion-of-ai-surveillance-pub-79847

（*本文为 AI科技大本营转载文章，转载请联系原作者）