人工智能时代，安全与隐私应该选哪一个？
作者 | 陈彩娴
编辑 | 青暮欧洲一向被认为是引领全球隐私保护的先锋。此前，欧盟的一系列举动，从GDPR，到限制公众场合应用人脸识别、禁止企业在招聘过程中使用算法自动筛选简历等等，都向外界传递了一个明确的信号：在发展人工智能技术之前，欧洲公民的隐私安全首先排在第一位。那么，当打击犯罪与数据隐私保护两者有冲突时，欧洲当局会如何选择？在互联网时代，无论是企业还是执法机构，都有多个获取数据的途径，形成数据的聚集——这一现象，被隐私专家们称为「大数据方舟」。近日，英国《卫报》（The Guardian）报道了一个重磅级消息：欧盟数据保护监管机构（EDPS）下令，强制欧盟旗下的欧洲刑警组织（Europol）删除所非法持有的、超过六个月的数据，并用一年时间梳理出它可以合法保留的数据。看来在数据保护一事上，欧盟「老大哥」不仅是对谷歌等企业动手，对自己的手下大将也不会手下留情。《卫报》的报道显示，欧洲刑警组织被指控非法持有大量受法律保护的个人信息，并有成为「欧洲NSA」的嫌疑。同时，该组织还计划将这些数据进行挖掘分析，用于人工智能与机器学习算法的训练。EDPS的裁决结果表明：在安全与隐私的权衡之间，欧洲决策者选择了站在「隐私」的一方。
1
事件来由欧洲刑警组织（Europol）的总部位于荷兰海牙，是欧盟国家警察部队下的一个协调机构。在2015年巴塔克兰袭击事件发生后，欧盟的一些成员国开始希望 Europol 解决恐怖主义的问题，并鼓励它收集多方面的数据。从理论上讲，欧洲刑警组织可以存储哪些类型的个人数据以及存储多长时间，是受到严格的法律监管的。根据规定，它所接收到的数据记录应该严格分类，并且仅在与反恐等高价值工作有潜在相关性时才能应用或保留。但 EDPS 发现，欧洲刑警组织处理数据的方式很随意；此外，该组织所持有的数据内容究竟是怎样的，并没有清楚披露。据《卫报》报道，只有少数欧洲人知道自己的数据被存储，且没有人能够强制要求 Europol 披露究竟自己的哪些信息已被存储。荷兰人 Frank van der Linde 是被欧洲刑警组织收集了个人数据的其中一人。2020年，他向 EDPS 投诉了 Europol 的上述行为。据《卫报》消息，Frank 此前因破窗进入一栋大楼为流浪汉提供居住场所而与警察起了一次严重冲突。这也是他与警察的唯一一次「互动」，他因此被荷兰当局列入恐怖观察名单。但在2019年，他便因接触恐怖嫌疑被荷兰从监视名单中移除。
图注：Frank van der Linde2018年，Frank 从荷兰搬到柏林。他不知道的是，当时荷兰警方与德国同僚、以及 Europol 分享了他的数据，直到后来他在阿姆斯特丹市政厅看到一份部分解密的文件，才知道自己的数据已被 Europol 持有。在Frank看来，Europol 就像一个黑匣子，他无法确认该组织是否已向荷兰当局确认他的最新消息、知道他不是极端分子后删除了数据。为了删除他的个人数据，他找到 Europol。但在2020年6月，Europol 回复他，称 Europol 的系统里没有任何他「有权访问」的内容。然而，该事件引起了 EDPS 对 Europol 处理敏感数据的担忧。
2
EDPS介入根据2019年9月的初步调查，EDPS 发现，外界与 Europol 共享的数据集在存储时没有经过适当的检查，也没有验证获取到的数据主体是否应该被监控或保留。EDPS调查发现，Europol 所持有的数据量缓存至少有 4 PB（1PB=1048576GB），相当于300 万张 CD-Rom 或美国国会图书馆所有内容的1/5。这些数据主要来源于犯罪报告、黑客攻击加密电话服务、无任何犯罪记录的寻求庇护者。同时，Europol 所保存的数万亿字节中， 至少有25万当前或以前的恐怖和严重犯罪嫌疑人、以及与他们接触的其他人的敏感数据。这些数据是国家警察当局在过去六年中所积累起来的，主要来自一系列刑事调查（案件数量不明）的数据转储。这次调查后，欧洲刑警组织并没有给到监管机构一个令人信服的答案，于是，EDPS 在 2020 年 9 月又公开告诫警察机构。《卫报》称，根据法庭记录，在处理数据一事上，欧洲刑警组织在故意拖延时间，监管机构明确表明他们没有解决这一「违法行为」。此外，警察机构一直在要求欧盟设立新的法规（如下）、为其六年来在没有法律依据的情况下所非法搜集的数据提供追溯性保障。德国人权研究所的监控专家 Eric Topfer 研究了拟议中的欧洲刑警组织新法规，预计该机构会直接从银行、航空公司、私营公司和电子邮件中获取数据。
拟议新规链接：https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=CELEX:52020PC0796一旦形成法律条文，这些提案就可以将原有的数据缓存合法化，将这些数据作为开发新的AI与机器学习工具的实验样本。伦敦玛丽女王大学的法律专家 Niovi Vavoula 评论：「新的立法实际上是在玩弄这个系统。多年来，欧洲刑警组织和委员会一直在尝试对非法保留数据进行事后纠正，但制定新的法规并不能合法地解决以前的非法行为。这不是法治的运作方式。」欧盟内政专员 Ylva Johansson 曾尝试为欧洲刑警组织辩护，称：「执法部门需要工具、资源与时间来分析合法传输给他们的数据。在欧洲，Europol是支持国家警察当局完成这项艰巨任务的平台。」
图注：Ylva JohanssonEuropol 否认它们曾利用这些数据进行任何不当行为，并称它们虽然持有大量非法获取的个人数据，但并不打算利用这些数据「为非作歹」，也没有成为「美国NSA」的野心。但令监管专家们更为震惊的是，欧洲刑警组织对于「数据」的态度，与斯诺登在披露美国 NSA 搜集数据进行大规模监视后、NSA 为自己辩护的理由是相似的——「我们只是收集数据，只有在必要时才会使用这些数据。」2021年12月，监管机构与欧洲刑警组织的对峙到达了白热化状态，事情的严重性不断升级，甚至吸引了欧盟内政事务总干事 Monique Pariat 出席会议。但这次会议上，欧洲刑警组织还是没有回复EDPS对合法保留数据的担忧。最后，EDPS不得不发布一个让欧洲刑警组织删除超过六个月数据的决定。
3
安全 vs. 隐私在数据存储上，Europol 与 EDPS 的另一冲突是前者青睐用技术来解决隐私权的安全问题。2021年7月，欧洲刑警组织的负责人、前比利时高级警察 Catherine De Bolle 与纽约州的地区律师在PolitIco（美国政治新闻网站）上共同发表了“The last refuge of the criminal: Encrypted smartphones”一文，称执法机构从智能手机中提取证据的需求应该高于公民隐私保护的考虑。作为执法当局，他们认为有责任在查明真相之前，不惜一切代价为犯罪受害者及其家人寻找所有可用的线索与证据，而加密的数字设备将证据锁在了执法人员所能触及的地方。为此，他们主张执法机构应获得通往加密设备的密钥。
图注：Catherine de Bolle不可否认，通过对技术研究的突破，Europol 确实在打击犯罪上取得了重大成果。2020 年，它们与法国、荷兰警方一起参与了对加密电话服务 EncroChat 的黑客攻击，将大量个人数据释放到「方舟」中。它们从 1.2 亿条 EncroChat 消息和数千万条通话录音、图片和笔记中提取数据并进行复制，然后将数据打包给国家警察部队。在欧洲刑警组织及其司法机构 Eurojust 披露秘密行动时，他们将这次行动称为「欧洲历史上打击有组织犯罪最成功的案例之一」。仅在英国，截至 2021 年 8 月，就有大约 2600 人被拘留。但事实上，欧洲刑警组织的黑客操作将 EncroChat 手机变成了针对其用户的移动间谍软件，与 Pegasus 等监控恶意软件有重要的相似之处。在间谍软件泛滥的情况下，加密是许多社会关键群体（如人权捍卫者、记者与律师）通信的唯一保护。EncroChat 的客户还包括非犯罪分子、律师、记者和商界人士，一位来自荷兰的律师 Haroon Raza 就是其中之一。据他所知， 「欧洲刑警组织的数据库中仍然存在一份他的手机数据副本，可以永远保留。」法国律师 Robin Binsard 评论，Europol 的整个行动相当于大规模监视，就像警察要寻找犯罪证据，于是搜集了一个街区内的所有公寓——这不仅侵犯了隐私，而且是违法的。自 2016 年以来，Europol 还在意大利和希腊的难民营开展了一项大规模筛查计划，收集了数万名寻求庇护者的数据，以寻找被指控的外国战斗人员和恐怖分子。根据 EDPS 的部分解密报告，Europol 组织「不允许」欧盟以外的移民对他们进行「例行检查」，因为此举「没有法律依据」。但 Europol 的筛查可能会导致移民的个人数据被存储在犯罪数据库中，无论他们是否被发现与犯罪或恐怖主义有关。此外，2020年春季，在欧洲刑警组织发现自己拥有越来越多的数据缓存后，他们就开始希望用算法来分析数据背后所折射出的世界。在 EDPS 公开警告欧洲刑警组织一个月后，欧洲刑警组织还提出请教：如果它想在已经被警告保留的数据上训练算法，是否可以在没有 EDPS 监督的情况下启动数据保护影响评估流程？他们明确指出，包括面部识别工具在内的算法不会被设计或用于检索有关敏感数据，包括公民的健康状况、种族背景、性取向或政治取向等等。但是，正如自己所承认的一样，这些数据将不可避免地被人工智能工具所处理，并自动生成包含敏感数据的内容。EDPS 回应，他们当时就表示会启动正式的监控程序。到 2021 年 2 月，Europol 停止了机器学习计划，并对《卫报》表示，他们「没有利用自己的机器学习模型进行操作分析，也没有对机器学习进行『训练』。」但没多久，Europol 就开始招募专家，帮助开发人工智能模型与数据挖掘。显然，这与 Europol 声称「不会处理数据」的初衷相违背，也是欧盟数据安全监管机构最大的担忧。因此，EDPS 最终决定对欧洲刑警组织提出强制要求删除数据。
4
数据隐私之殇数据被誉为人工智能的三驾马车之一。然而，随着各国数据保护政策的收紧，以及公民对个人信息的保护意识提升，上至执法者，下至企业与高校机构，敏感数据的获取与使用将越来越难。对于执法机构的数据使用监管，欧盟的裁决只是打响了「第一枪」。而深究根源，促使政策下台的根本原因，最终仍要落到数据的庞大价值与其诱惑上。单纯拥有数据、而不使用数据的「信誓旦旦」，已经无法赢得公众的信任。在个体用户中，拿一个身份证换一盒鸡蛋的行为将一去不返。越来越多的人对数据安全的防备意识在增强。对他们来说，利益安全与消费体验的需求将越来越强。在接下来的人工智能发展中，研究者要考虑的问题，大约是如何利用少数据、非敏感数据进行研究，实现研究突破，同时「讨好」个体罢。
参考链接：
1.https://www.theguardian.com/world/2022/jan/10/a-data-black-hole-europol-ordered-to-delete-vast-store-of-personal-data
2.https://www.politico.eu/article/the-last-refuge-of-the-criminal-encrypted-smartphones-data-privacy/
3.https://www.europol.europa.eu/media-press/newsroom/news/dismantling-of-encrypted-network-sends-shockwaves-through-organised-crime-groups-across-europe
推荐阅读
资本涌入、大厂下场、企业内卷：“隐私计算”风口背后追逐的是什么？｜GAIR 2021
2021-12-14
小数据，大前景 ！美国智库最新报告：长期被忽略的小数据人工智能潜力不可估量
2021-11-07
欧盟AI监管新规：公共场合人脸识别将被限制、甚至禁止！
2021-05-18
