整理 | 禾木木
出品 | AI科技大本营（ID:rgznai100）
在最受欢迎的社交媒体平台之一 TikTok 上，现仍有源源不断的 Deepfake 视频正在冒出来。
Deepfake 是对拍摄对象的面部或身体进行了数字化改造，让用户完全变成了另一个人。
当然，一般改造完都是相对出名的人。
很引人注意的是这位 @deeptomcriuse，已经发布了数十个假冒汤姆·克鲁斯的 Deepfake 视频，并且吸引了 360 万粉丝。
在另一个 Deepfake 视频例子中，小扎的一段视频也开始疯传，在视频中小扎说“让我们快速地想象一下，一个人手握偷窃来的数十亿人的隐私信息，他们的所有秘密、生活和未来等等 ”，这也是 Deepfake 杰作。
还有就是这位马斯克中国分克甚至骗过了马斯克本人。
虽然在大多时候，Deepfake被网友们用来搞怪，用于娱乐，但令人担忧的是，越来越多人在用这门技术进行虚假宣传、欺诈、抹黑公众人物。
不同的角色
Deepfake 很好地融合了文本、图像和镜头处理。与绿屏和计算机生成图像相比，它为视觉插入提供了性价比更高的技术。
很多时候，Deepfake 还可以使已故演员的复活或是历史重演成为可能，他们甚至可以在帮助人们哀悼已故亲人方面发挥作用。
但它们也可能被滥用。
同时，Deepfake 技术被认为存在的几个社会问题，例如：
- 被用来制作虚假新闻和虚假信息的“证据”；
- 被用来诋毁名人和其他人已分享内容为生的人，同时保持声誉；
- 甚至伪造色情内容。
美国大选期间，AI 换脸技术就成了政客之间相互攻击的工具。特朗普就曾在推特上转发过一个伪造的拜登吐舌头的视频，播放量一晚上就超过了1000万。
这么明显的恶搞，一般人都不会信。但如果是那种似是而非的视频呢？
2019年，Deepfake 检测软件公司 Deeptrace 发现，14000 个 Deepfake 视频中有 96% 是色情的。，如现已停产的 DeepNude 2.0，被用来让穿着衣服的女性在镜头中呈现裸体，经常被用于报复和敲诈。
除此之外，Deepfake 还经常被用于诈骗，尤其是信任朋友或亲戚。当这些人打来视频电话向你借钱，你大概率会中招。一项研究发现，2020 年使用数字技术进行的诈骗使美国金融机构损失了 200 亿美元。
Deepfake 很容易，管理很难
DeepFake的创作者强调，如果想让这些换脸视频看起来更加真实，就要花费大量的时间和精力。以克里斯·梅（Chris Ume）为例，他是 TikTok 帐户背后的视觉效果 @deeptomcruise AI 艺术家。梅表示：“你不能仅仅通过按下一个按钮来做到这一点。”
有充分的证据标明，DeepFake 也确实在变得越来越容易。
随着 DeepFake 应用程序的开发，在未来，哪怕是技术水平不高的人也能容易地制作出看起来很逼真的 DeepFake 视频。
而立法、监管和检测软件正在努力跟上 DeepFake 的蓬勃发展。
2019年，Facebook 因未能删除政治家 Nancy Pelosi 的合成视频而受到批评，因为它不符合其对 DeepFake 的定义。
2020年，Twitter 和 TikTok 禁止分享可能会欺骗、迷惑或伤害他人的合成视频（除非标清楚是DeepFake）。
而YouTube则是下架了所有与2020年美国联邦选举有关的DeepFake视频。
但是，即使这些政策有意引导，平台管理员也很难快速处理每一条上报的视频。
在澳大利亚，新南威尔士州的 Ashurst 公司的律师表示，现有的版权和相关法律可能无法保护澳大利亚人免受 DeepFake 的影响。
虽然国外已经开始尝试制定法律规整这个领域，但这些法律大多都集中在政治传播方面。例如，加利福尼亚州规定，在选举期间张贴或传播经过数字处理的候选人内容是非法的。但不从政的人并不受这条法律的保护。
如何检测？
而最佳的补救措施之一，就是让用户尽量掌握辨别的技巧。
通常情况下，能让 DeepFake 露馅的第一个迹象是，有些东西看着似乎不对劲。如果是这样，就要更仔细地观察被拍者的脸，想一想：
- 脸部是否太光滑，或有不寻常的颧骨阴影？
- 眼睑和嘴巴的动作是否看起来不连贯或不自然？
- 头发看起来是真的吗？
要知道，目前的深度造假技术很难保持头发（尤其是面部毛发）的原始外观。
你可以在网上搜索该视频或视频中人物的关键词，因为许多可疑的 DeepFake 视频已经被揭穿了。
还有就是上下文也很重要，试着判断一下来源的可靠性：“它看起来是真的吗？如果视频发布在社交媒体平台上，那么发帖人的账户是否经过了验证？”
你还可以对播放的视频进行截图，并进行谷歌反向图片搜索，检查视频的原始版本是否存在，将其与可疑的版本进行对比。
最后，如果你确实发现了一个DeepFake的视频，一定要记得点举报。
参考资料：
https://techxplore.com/news/2022-07-celebrity-deepfakes-tiktok-theyre-common.html
