内容详情
有人模仿你的脸 还有人模仿你全身？
他提到了一段深度换脸的色情视频，视频中印度记者拉娜·阿尤布的脸被换成了一名色情女演员的身体，作为这场虚假信息运动的一部分，这一行为的目的就在于抹黑她的调查报道。
此前，她公开要求对强奸和谋杀一名8岁克什米尔女孩的行为进行司法审判。今年3月，Deeptrace Labs对加蓬总统阿里·邦戈的“深度换脸视频”进行了调查。
尽管这个非洲国家的许多人，包括加蓬军队在内都认为邦戈一动不动的脸、眼睛和身体暗藏着一个深度骗局，并基于此发动了一场不成功的政变，帕特里尼仍向《琼斯母亲》杂志表示，他不相信总统的视频是合成的。
“我们找不到任何理由相信这是深度换脸的结果。我认为总统还活着，这一猜想随后也被证实，不过他实际上是中风了。”帕特里尼说：“我想在这里指出的重点是，问题不在于视频到底是真是假，重要的是人们很清楚它会在公众舆论中引发怀疑，在某些地方还可能引发暴力。”
最近，范德韦赫了解到，一名政党人士正在接触“深度换脸”最受欢迎的创造者之一，并要求其运用这项技术来中伤某人。这种定制的“深度换脸”可能会成为一门大生意。
“‘深度换脸’会成为人们谋利的工具，”范德韦赫说，“人们会为它买单。所以，政府并不需要亲自上阵，他们只需要联系一个专门干这行的人就可以了。”
《华尔街日报》最近的报道称，一家英国能源公司的首席执行官被骗，将24.3万美元转入了一家匈牙利供应商的账户。这位高管说，他相信自己是在和老板谈话，而且他的老板似乎也已经批准了这笔交易。
现在，这位首席执行官已经意识到他遭遇了一种名为“网络钓鱼”的深度换音造假。法里德认为，深度造假技术，甚至包括“深度换身”技术，在金融领域的欺诈很有可能呈肆虐之势。
“我可以制作一个杰夫·贝佐斯的深度换脸视频，让他在里面说亚马逊的股票正在下跌。”法里德说，“想想看，做空亚马逊股票能赚多少钱。当你控制它的时候，伤害已经造成了……现在再想象一下，当你看到一个民主党候选人说一些非法或漠不关心的话的视频时，你还认为你不能在选举前一天晚上左右成千上万选民的投票吗？”
法里德认为，社交媒体和深度造假视频的结合，无论是“深度换脸”还是“深度换身”，都很容易产生极大的不良影响。社交媒体公司经常无力或不愿调整他们的平台和内容，因此深度换脸可以像野火一样蔓延。
“当你把深度换脸的能力与在全球散布和消费这些内容的能力结合起来时，麻烦就来了。”他表示，“出于很多原因，我们生活在一个高度分化的社会，也因此人们常常会把意见相左的人往坏处想。”
但对于Fast.AI公司联合创始人瑞秋·托马斯来说，在新的网络冲突中，深度换脸对政治进程产生的负面影响几乎可以忽略不计，因为政府和行业已经在与书面形式的虚假信息作斗争。
她说，这些风险不仅与技术有关，还与人为因素有关。社会两极分化背景下，美国和其他国家的大片地区不再有可以完全信任的事实来源。
这种不信任可能会让有政治动机的“深度换脸”制造者有机可乘。正如隐私学者丹妮尔•西特龙所指出的，当深度换脸被揭穿时，它可以向那些相信谎言的人暗示，谎言是有一定道理的。西特恩称这是“说谎者的红利”。
法里德认为，“深度换身”技术的进步将在整体上使这类恶意深度造假的问题变得更糟。这项技术如今正在快速发展，很有可能在诸如《人人都在跳舞》等高校研究和“Zao”APP开发商的教唆下，将“深度换脸”合法化。
“一旦能对全身动作进行合成模仿，那时画面上就不再只是出现一个讲话的脑袋了，你甚至可以假装成别人做不雅事或杀人。”法里德说：“是不是已经可以这样操作了？目前可能还不能实现。但一两年后，人们就能做到全身深度模仿，这一猜想并不是没有道理的，而且一旦实现会发挥非常强大的作用。”
行业回应
目前，科技行业还没有达成根除深度换脸的共识，许多不同的技术正在研究和测试中。
例如，范德韦赫的研究团队创造了各种内部挑战，并探索了不同的方法。其中一个研究小组研究了胶片的数字水印以识别深度换脸。另一个团队则试图使用区块链技术来建立信任，这也是区块链技术本身的优势之一。另外，还有一个团队通过使用与最初“深度换脸”相同的深度学习技术来识别赝品。
“Sherlock AI是一个自动检测深度换脸的工具，由来自斯坦福大学的辍学生开发，”范德韦赫介绍，“因此，他们取样了一些卷积模型，然后在视频中寻找异常。这一过程也被其他深度换脸检测器使用，比如Deeptrace Labs。他们使用名为FaceForensics++的数据集，然后对其进行测试，其准确率高达97%，对人脸的识别效果也很好。”
Deeptrace Lab基于API(应用程序接口)的监控系统可以监测到深度伪造视频的创建、上传和共享。自2018年成立以来，该公司已经在互联网上发现了超过1.4万个虚假视频。
Deeptrace Lab的系统收集到的信息可以告诉公司及其客户，深度伪造品的制作者在做什么，伪造品来自哪里，他们在使用什么算法，以及这些工具的可访问性如何。
帕特里尼说，他的团队发现，95%的深度伪造品都是虚假色情类的“深度换脸”产品，大多数视频来自于一小撮名人。到目前为止，Deeptrace Lab还没有看到任何在野外应用的全身合成技术产品。
“你不能用单一的算法或想法来总结这些问题的解决方案，”帕特里尼表示，“这与建立一些能告诉你合成媒体不同情况的工具有关。”
范德韦赫认为反深度换脸技术的下一个重大发明将是软生物特征识别技术。每个人都有自己独特的面部表情——扬起的眉毛、嘴唇的动作、手部的动作，这些都可以作为某种个人特征。
加州大学伯克利分校的研究人员施卢蒂·阿加瓦尔使用了软生物计量模型来确定一些画面里的面部抽搐是否是为了视频效果而人为的结果。(阿加瓦尔的论文导师是深度造假视频专家、达特茅斯大学教授哈尼·法里德。)
“基本思路是，我们可以建立有关这些世界各国领导人的软生物识别模型，比如2020年总统候选人，然后倘若视频开始失真，我们可以对它们进行分析，来确定它们的真实性，”阿加瓦尔今年6月向伯克利新闻表示。
尽管考虑到不同的人在不同的环境下可能会呈现不同的面部抽搐，阿加瓦尔的模型并不完全可靠，但范德韦赫认为公司将来可以提供用于身份验证的软生物特征签名，这种特征可能是众所周知的眼睛扫描或全身扫描。
“我认为这是我们前进的方向：与学术界和大型科技公司合作，以创建更大的数据集。”范德韦赫表示，“作为新闻人，我们应该努力帮助媒体加深对深度伪造的了解。”
最近，Facebook和微软与大学联手发起了深度换脸检测挑战。另一个值得注意的努力是国防高级研究计划局的目标，即用语义鉴证法来处理深度换脸赝品，寻找造成错误的算法。
例如，一个人在深度换脸视频中戴了与其不相配的耳环。而在2018年9月，人工智能基金会筹集了1000万美元，通过机器学习和人类调解员创建了一个识别深度换脸和其他恶意内容的工具。
但是，托马斯仍然怀疑技术是否能完全解决深度换脸的问题，不管它们采取什么形式。她认为建立更好的系统来识别深度换脸是有价值的，但她重申，其他类型的错误信息也很猖獗。
托马斯说，利益相关者应该探索社会和心理因素，因为这些因素也会导致严重的深度换脸和其他错误信息。
为什么对深度换脸的监管难度很大？
托马斯、范德韦赫和法里德一致认为，政府将不得不介入并监管深度换脸技术，因为放大此类煽动性内容的社交媒体平台要么无力监管，要么不愿意监管自己的内容。
今年6月，众议院情报委员会主席、民主党众议员亚当·希夫就深度换脸技术造成的虚假信息和虚假信息威胁举行了首次听证会。希夫在开场白中指出，科技公司对此前的假视频做出了不同的反应。
YouTube立即删除了这段慢速播放的视频，而Facebook将其标注为假，并限制了它在整个平台上的传播速度。这些不同的反应导致希夫要求社交媒体公司制定政策，纠正深度换脸视频的上传和传播。
“在短期内，推广虚假信息和其他有害的、煽动性的内容对这些平台来说是有利可图的，因此我们的激励机制是完全错位的。”托马斯表示，“我不认为这些平台应该对它们所承载的内容承担责任，但我确实认为它们应该对它们积极推广的内容承担责任(例如，YouTube将亚历克斯•琼斯的视频推荐给那些甚至没有在寻找他的人160亿次)。”
托马斯补充道:“总的来说，我认为，考虑一下我们如何通过立法来处理那些将巨额社会成本外部化、同时私下要求利润的其它行业(如工业污染、大型烟草和快餐/垃圾食品)，是有帮助的。”
帕特里尼表示，对合成媒体的监管可能会变得很复杂。但是他也认为，目前的一些法律，比如那些涉及中伤、诽谤和版权的法律，可以用来监管恶意的深度换脸。
帕特里尼说，出台一项全面禁止深度换脸的法律将是错误的行为。相反，他主张政府支持有利于社会的合成媒体应用，同时资助研究开发检测深度换脸的工具，并鼓励初创企业和其他公司也这么做。
“政府还可以教育公民这种技术的存在，因此我们需要重新训练我们的耳朵和眼睛，不要相信我们在互联网上看到和听到的一切。”帕特里尼说：“我们需要给人们和社会先打好预防针，而不是在可能两年后因为滥用这项技术而发生非常灾难性或有争议的事情时才亡羊补牢。”
奥默表示，计算机视觉研究人员很清楚深度换脸技术的恶意应用。他认为政府应该为如何使用深度换脸技术建立问责制。
“我们都看到了图像理解的应用，以及它可能带来的好处，”奥默说，“但其中一个非常重要的部分是要明确承担哪些责任，以及谁将承担这一责任？采访过我的政府机构等显然看到他们也负有这一责任。公司也许为了股东的利益，他们可能也不得不表示他们看到了自己的责任；但是，到目前为止，我们心里都很清楚他们是如何处理这一责任的。”
“这是一件很棘手的事情，”奥默接着表示，“只是希望这一切都会过去……但是我们知道它将愈演愈烈。”(译者 | 王婕，作者 | DJ PANGBURN，来源 | Fast Company，原标题：译科技 | 什么？！有人模仿你的脸，还有人模仿你全身？)
