编译丨福尔摩望
本文经授权转载自 猎云网（ID：ilieyun）
【导语】那的确是她的脸，但是在她不知情的情况下被无缝地移植到了别人的身体上。
网络上曾出现过这样的视频：一名女子穿着粉色肩膊上衣，坐在床上，露出令人信服的微笑。
那的确是她的脸，但是在她不知情或不同意的情况下，被无缝地移植到了别人的身体上。而一群不知名的用户一直在网络上传播着。
她感到恶心和羞耻，如果她的同事看到了怎么办？她的家人、她的朋友呢？这会改变他们对她的看法吗？他们会相信这是假的吗？
“我感到被侵犯了，一种令人讨厌的侵犯感，”这名40多岁的女性说道。她要求匿名，因为她担心这段视频可能会伤害她的婚姻或事业。“这是一种奇怪的感觉，你想从互联网上撕扯掉一切，但是你知道并不能做到。”
Airbrush和Photoshop很久以前就可以对照片进行修改。现在，视频也变得越来越容易遭到篡改，更致命的是，这些假货看起来很像真的。这些栩栩如生的“深度虚假”视频在谷歌开发的强大且广泛可用的人工智能软件推动下，正在互联网上迅速成倍增长，模糊了真相和谎言之间的界限。
但是，这些视频也针对女性被武器化，成为了一种新的侮辱、骚扰和虐待的手段。这些虚假视频往往非常清晰，被贴在热门色情网站上，也越来越难以发现。尽管其合法性还没有在法庭上得到过检验，但专家说它们可能会受到第一修正案的保护——虽然它们也可能被定性为诽谤、身份盗窃或欺诈。
令人不安的是，无论是名人还是普通女性，都有可能被盗用面孔。女演员斯嘉丽·约翰逊表示，她担心“任何一个人成为恐怖伪造的目标只是时间问题”。
在过去的一年里，约翰森的面孔被叠加到了几十个图片性场景中，这些画面已经在网上流传开来，其中一段被错误地描述为真实“泄露”镜头的视频，已经在一个主要色情网站上被观看了超过150万次。她说，她担心，对于妇女和儿童来说，保护自己免受“几乎无法无天的网络深渊”伤害已经太迟了。
“没有什么能阻止不法分子剪切和粘贴我的图像或者其他人的图像到不同的身体上，并让它看起来像你所希望的那样逼真，”她说。“事实是，试图保护自己免受互联网及其堕落的伤害，基本上是一个失败的原因。互联网是一个巨大的黑暗虫洞，不断地吞噬着自己。”
今年9月，谷歌在其禁令名单中增加了“非自愿合成色情图片”，允许任何人要求该搜索引擎阻止将它们虚假描述为“裸体或露骨色情图片”的结果。但是要想解决制造和传播问题并不容易。
越来越多的深度假货开始针对远离公众视线的女性，深度假货讨论板上的匿名用户和私人聊天称她们为同事、同学和朋友。一些根据请求制作视频的用户表示，价格正在不断上涨，目前每件赝品大约20美元。
视频请求者将这位女性的脸放在身体上，视频中汇集了她491张脸的照片，其中许多照片来自她的Facebook账户。他告诉深度假货网站的其他成员，他“愿意为好作品付费。”《华盛顿邮报》的一名记者后来通过一个名为反向图像搜索的在线工具，运行这些照片找到了她，该工具可以定位照片最初共享的位置。
在一个自称为“创造者”的团队提出交付要求两天之后，一个不露面的在线观众庆祝了这一努力。“好的开始！”请求者写道。
“这就像一场攻击，充满着权力感和控制感，”加州家庭暴力庇护所Laura’s House的法律总监Adam Dodge说。Dodge上个月为警探和治安官代表举办了一次培训课程，内容是虐待他人的伴侣或配偶会如何使用深度假货。Dodge说：“这种制作色情作品的能力，让每个人都成为了潜在的目标。”
几十年来，视频一直是真实性的基准，与容易失真的照片有着明显的区别。对于除了高级艺术家和电影制片厂以外的所有人来说，假视频在技术上总是过于复杂，无法正确处理。
但是，最近机器学习技术的突破，让伪造视频创作变得比以往任何时候都更容易获得，这些技术被那些竞相改进和完善赝品的创作者所采用。要在几个小时内做出一个有说服力的模仿，只需要一台电脑和一组强有力的照片，比如数百万人每天在社交媒体上发布的照片。
这样造成的结果是一种可怕新方式的诞生，从而给不露面的陌生人造成尴尬、苦恼或羞耻。“如果你是世界上最讨厌女人的人，”迈阿密大学法学教授兼网络民权倡议主席Mary Anne Franks说。“这项技术会让你实现想要的一切。”
男性出现在这些假冒视频中几乎都是玩笑性质，比如一个受欢迎的模仿展示了演员尼古拉斯·凯奇的脸叠加在了特朗普总统的脸上。但虚假女性视频却主要都是色情的，暴露了同样类型的人工智能技术是如何鼓励女性的性客观化的，要知道这种技术是可以支撑网络的未来的。
媒体评论家Anita Sarkeesian因其对流行文化和视频游戏的女权主义批评而在网上遭到抨击，今年她被插入到一个色请视频中，并被在成人视频网站Pornhub上观看了3万多次。
在深度假货论坛上，匿名发布者称，他们很兴奋能在她的Twitter和电子邮件账户上与她当面对质，并分享了她的联系信息，并告诉她，他们是如何确保视频易于获取并且无法删除的。
社交网站Voat上的一名用户Its-Okay-To-Be-White写道：“这是我们需要和应该得到的深度假货。”另一名用户Hypercyberpastelgooth写道：“她首先攻击了我们。她只需要张开她那张小嘴。”
Sarkeesian说，这些深度假货更多地证明了“在互联网上做一个女人是多么可怕，因为在互联网上，所有这些男人都觉得有资格拥有女人的身体。”
Sarkeesian说：“对于那些不知名的人来说，这会损害你的工作前景、人际关系、声誉和精神健康。它被用作一种武器来压制女性，贬低女性，展示对女性的力量，把我们变成性物品。这不是一个有趣的游戏，这会毁掉一个人的生活。”
“更脆弱”
声称深度假货的人工智能方法起始于一个简单的想法：两组相对的深度学习算法创造、改进和重新创造了一个越来越复杂的结果。由谷歌研究科学家Ian Goodfellow领导的一个团队，在2014年通过比较伪造者和警察之间的斗争，引入了这一想法，双方都在努力“改进他们的方法，直到伪造者无法辨别。
该系统将制作逼真人脸交换视频繁琐和耗时的工作进行了自动化：找到匹配的面部表情，无缝替换它们，每秒钟重复任务60次。许多基于谷歌人工智能库的深度伪造工具都是公开的，可以免费使用。
去年，一名匿名创作者使用在线名称“深度假货”，开始使用该软件来制作像女演员Gal Gadot的换脸色情视频，并将其发布到讨论板巨头Reddit上，赢得了广泛关注，也引发了一波模仿浪潮。
这些视频质量参差不齐，许多都很浮华或具有明显的缺点。但是深度假货的创造者说，这项技术正在迅速改进，从而无法看出假冒。
虽然深度伪造过程需要一些技术诀窍，但最近几个月，一个匿名的网络创作者社区已经为感兴趣的初学者排除了许多障碍，他们制作了操作指南，提供了提示和疑难解答建议，并开始自己满足假冒色情的要求。
为了简化任务，深度伪造的创作者通常会编辑大量的面部图像，称为“面部集”，以及他们称之为“捐献者身体”的女性性场景视频。一些创作者使用软件从视频和社交媒体帖子中自动提取女性的脸部。其他人已经尝试了语音克隆软件来产生潜在的令人信服的音频。
并非所有针对女性的虚假视频都依赖色情来获取震撼的价值或政治观点。今年春天，一段篡改的视频显示Parkland学校枪击案幸存者Emma González撕毁了宪法。保守主义活动人士分享了这段视频，认为这是她背叛美国的证据；事实上，视频显示她是在一个射击场内撕毁了一个纸质的物体。
但是深度假货在色情作品中的使用出现激增。讨论板8chan上的一位创作者制作了一个四分钟的深度假货，展示了一位年轻的德国化妆博主的脸，这位创作者在她2014年录制的头发教程中提取了成千上万张脸图像。
Reddit和Pornhub今年禁止了这些视频，但新的替代品迅速涌现，取代了它们。主要的在线讨论板如8chan和Voat的代表没有回应评论请求。他们也在经营着自己的深度假货论坛，并由于他们的传播，导致这些视频也可以在独立网站上找到。
一个深度假货网站的创建者，由于害怕遭到判决，要求匿名。他说他建立10个月的网站每天接收超过2万名观众，并依靠广告赚取微薄的利润。他说，名人是最吸引流量的工具之一。他补充说，他相信名人的名气以及大量的公开画面，颇有成效地让他们成为这场游戏的核心。
网站上唯一的规则是，目标必须是18岁及以上的人，并且不能“以负面方式”进行描述，比如图形暴力或强奸场景。他补充说，该网站“只是半监管”，依靠用户自己进行监管。
一位名为“Cerciusx”的深度假货创作者表示，他拒绝了有关非名人的请求，因为这些请求很容易在学校校园或工作场所传播，并给一个人的生活留下疤痕。
然而，许多创作者满足了这样的要求，让一个女人看起来“更脆弱”，或者给生活带来黑暗的幻想。“大多数男人从来没有找到他们的梦中情人，”他说。"这就是深度假货盛行的原因。”
今年4月，印度的一名调查记者Rana Ayyub被一个消息来源提醒注意一段深度假货性爱视频，该视频显示了她的脸出现在了一名年轻女性的身上。该视频在Facebook、Twitter和WhatsApp上得到成千上万人的传播，有时还会伴随着强奸威胁，她的家庭地址也被泄漏出来。
34岁的Ayyub说，她已经忍受了多年的网络骚扰。但是深度假货让她感觉不同。当她看到时，她吐了出来，哭了好几天，然后匆忙赶到医院，焦虑万分。她说，在警察局，警察拒绝提交报告，她甚至可以看到他们在观看视频时面带微笑。
“它确实让我崩溃了。这是压倒性的。我能想到的只是我的性格：这就是人们对我的看法吗？”她说。“这比实际威胁要可怕得多，对你的思想有持久的影响。没有什么能阻止它再次发生在我身上。”
身份盗窃
深度假货的受害者几乎没有反击的工具。法律专家表示，深度假货往往难以追查，无法调查，并且存在于法律灰色地带。由于基于公开照片，它们实际上算是新的创作，意味着它们可以作为言论自由受到保护。
民权倡导者正在采取未经测试的法律手段来打击他们所谓的“非性感色情”，使用类似的策略来打击网络骚扰、网络跟踪和复仇色情。律师表示，如果他们对深度假冒创作者的身份或策略了解足够多，他们可以采用骚扰或诽谤法，或者发布限制令和撤销通知。2016年，当一名加州男子被指控在网络色情图片中添加前妻照片时，当地检察官尝试了一种非常规策略，指控他犯有11项身份盗窃罪。
马里兰大学的法学教授Danielle Citron研究了打击网络虐待的方法，她表示，美国迫切需要一项更全面的刑事法规，涵盖她所说的“侵犯性隐私和性格谋杀”。“我们需要真正的威慑，”她说。"否则，这只是一场打鼹鼠的游戏。”
谷歌代表表示，该公司认真对待其道德责任，但对其人工智能工具的限制最终可能会限制开发人员积极推动这项技术。
但是专门研究被操纵照片和视频的达特茅斯学院计算机科学教授Hany Farid说，谷歌和其他科技巨头需要“更加严肃地看待这项技术的武器化程度”。
“如果一位生物学家说，‘这是一种非常酷的病毒，让我们看看公众感染它时会发生什么’，这明显是不可接受的。然而这正是硅谷一直在做的事情，”他说。“这表明它是一个非常不成熟的行业。我们必须了解这种危害，并放慢部署这种技术的速度。”
到目前为止，少数提议的解决方案对被攻击的女性可能收效甚微。在看完视频后，她说她非常愤怒，表示要采取法律行动。
但是她寻找请求者的努力没有取得任何进展。他没有回复邮件，帖子也已经被删除，他的账号消失得无影无踪。剩下的只是深度假货视频，而它已经又被观看了400多次。
