眼见为实。好吧，至少在我们意识到人们可以篡改视频以推动骗局和重写历史之前，情况就是这样。虽然我们已经找到了对大多数骗局图像进行伪装的方法，但是一项技术发展日新月异，我们可能很快将不再知道如何分辨真实和虚假。
Deepfakes改变了我们的思想就篡改视频而言是可能的。这就是您需要了解的所有信息……
什么是Deepfake？
deepfakes这个术语来自“深度学习"和“假冒"两个词的组合。这是因为经过图像和视频合成训练的人工智能软件会创建这些视频。该AI可以将一个主题（源）的面部叠加到另一主题（目标）的视频上。该技术的更高级形式可以使用源的面部手势以及他们希望模仿的对象的图像或视频来合成一个人的全新模型。
该技术可以基于有限的视觉数据制作面部模型，例如一张图片。但是，人工智能必须处理的数据越多，结果才能越真实。
这就是为什么政客和名人很容易成为伪造品的目标，因为在线上存在大量可视数据，因此该软件可以使用。由于Deepfake软件可在开放源代码平台上使用，因此Internet上的人们正在不断完善和借鉴他人的工作。
Deepfake AI技术的起源
deepfakes背后的技术是为多种目的而开发的。与Photoshop一样，该软件具有专业，娱乐和业余爱好者的用途。就像Photoshop一样，尽管创建者没有恶意创建软件的意图，但这并没有阻止人们将其用于恶意目的。
换脸技术最初主要用于电影行业。最著名的例子之一是2016年电影《侠盗一号：星球大战外传》。在电影中，电影制片人使用了面部交换和视频合成技术来重现角色Grand Moff Tarkin。电影中还制作了年轻版的Leia公主。在这两种情况下，原始演员的脸部模型都叠加在替身演员上。
像Snapchat这样的应用程序也使用脸部交换技术为用户创建有趣的过滤器。这些应用程序背后的开发人员不断完善人脸检测和跟踪功能，以更有效地应用这些滤镜。
同时，其他人开发了视频合成工具来创建全息图以用于教育目的。例如，一个项目开发了视频和面部合成软件，因此大屠杀幸存者的证词可以在博物馆中以交互式全息图的形式呈现。
为什么深造假使人们感到神经紧张
当人们意识到诈骗者和玩弄骗局的人使用Photoshop来制作假图像，我们不得不对我们认为的证据持怀疑态度。幸运的是，有很多方法可以检测图像是否是伪造的，即使是用肉眼也可以。
此外，在Photoshop中创建令人信服的篡改图像是相对劳动密集型的。不仅任何人都可以将两个图像拍在一起并使它们看起来逼真。
但是深造的却不同。机器学习使生活变得更轻松，但在这种情况下，它会使伪造变得更加容易。首先，该软件是广泛免费的。例如，FakeApp是创建Deepfake的流行选择。您不需要先进的技能即可进行面部切换，该软件将为您完成。
由于AI和深度学习可以帮助您制造深造，因此技术也以惊人的速度不断提高并更具说服力。在不久的将来，这些编辑就不会被肉眼所见。
在一个充满假新闻的世界中，令人信服的假货可能被证明是对我们认为真实的混乱。
在AI语音合成也在迅速发展的同时，deepfakes的兴起也正在发生。 AI不仅可以生成假视频，而且还可以为人们生成语音模型。
这意味着您不需要模仿者就可以听起来像政客在发表令人发指的言论。您可以训练AI模仿他们的声音。
Deepfakes的后果
人们已经将Deepfakes用于恶意目的。人们经常使用FakeApp制作涉及成人内容的名人女演员的假视频。
Gal Gadot，Daisy Ridley和Emma Watson只是假成人视频所针对的少数女演员。这些深层假货将女演员的面孔转换为成人电影明星的视频。
尽管有多个平台和某些成人网站禁止使用此类视频，但每天都有更多此类视频出现。实际上，有些网站是根据用户请求专门制作深红色名人成人视频的。
在大多数国家/地区，尚无法律处理此类内容，因此难以控制。
尽管我们距离在《奔跑的人》等电影中看到的错误信息和虚假视频证据所支配的反乌托邦还有一段距离，但我们已经对假新闻的影响太熟悉了。
Deepfakes可以成为传播错误信息的有力工具。没有人使用深造假作陷害犯罪或假装死亡，但是当很难分辨出哪些视频是真实视频时会发生什么呢？
用于政治目的的深造假的后果有两个。首先，它使虚假新闻更容易传播。视频比文字或图像更有可能说服人们确实发生了虚构的事情。
人们已经相信来自虚假网站的头条新闻没有任何证据支持他们的故事。突然之间，虚假的故事就会有“证据"，表明政客们承认自己有过失或做出过分的表态。
另一方面，深造的伪造在逃避问责制时也会鼓舞政客。他们总是可以轻易地声称音频或视频录制实际上是一种深造品。
我们如何与深造品作斗争？
尽管许多科技公司都花时间控制深造品，但是各种各样的人正在开发工具来打击恶意的假视频。 AI可以对抗黑客和网络犯罪，但它对于检测视频中的AI篡改也很有用。
AI基金会创建了一个名为Reality Defender的浏览器插件，以帮助在线检测Deepfake内容。另一个插件SurfSafe也执行类似的检查。这两个工具旨在帮助互联网用户从小说中辨别事实。
诸如Snopes之类的事实检查网站也已扩展为播放篡改视频。但是他们还没有自动检测深度欺诈的工具。
甚至美国国防部也投资了检测深度欺诈的软件。毕竟，如果一个令人信服的世界领导人的视频出现在网上，宣告对另一个国家的战争或导弹发射，将会发生什么？各国政府需要工具来快速验证视频的合法性。
机器学习的意外后果
毫无疑问，人工智能技术和深度机器学习在许多方面改善了我们的生活。但是，这项技术也会带来意想不到的后果。
虽然坏数据是机器学习算法的主要障碍，但人为因素也起着作用。很难预测人们如何将某些技术用于恶意目的。您可以在我们的机器学习算法指南中找到有关机器学习和过去错误的更多信息，以及它们为什么会出错。
