新兴技术革新

深度假货:入门

曾经有一种流行的说法:“相机永远不会说谎。”但是,随着尖端技术的出现和人工智能的发展,这可能已经成为过去。

2018年5月,POTUS Trump向比利时人提供建议的视频 有关全球变暖和气候变化的问题在互联网上风靡一时。

如您所知,我有能力退出《巴黎气候协定》,” 他说,直接看着镜头”,您也应该这样做。[1]

来自世界各地的许多人鄙视特朗普的言论。录像带激起了民众的愤慨,并引发了数百人的评论,许多人反对美国总统如何权衡比利时的气候政策。然而,这种愤怒被误导了。事实证明,视频不过是高科技的伪造品。该录像带是比利时政党安第斯社会党(sp.a)宣传的一部分。

该sp.a承认 已付钱给制作工作室使用机器学习来制作视频[2], 技术上称为“深层假货”。

Deep Fake是一种技术,通过该技术,可以将计算机生成的个人复制品制作成视频,以说出人们可能实际上并未说过或做过的事情或执行的动作。

sp.a的视频就是这种技术进步潜力巨大的令人不安的例子之一。这些视频充分利用了我们的信念,即相信我们的眼睛所看到的东西,并有可能威胁到我们本已脆弱的信息生态系统,而不是忘记错误信息的循环,它可能开始破坏可靠的共享现实的可能性。

这样的假视频不需要强大的计算机,可以在常规计算机上创建。深度伪造品在“对抗性通用网络”或GAN上运行。伊恩·古德费洛的创意[3],GAN可以通过算法从现有数据集中生成新的数据类型。

GAN通过深度学习来复制所需的数据集。它可以捕获数据集中的变化并将其复制到看似自然的视频中。

使用GAN不仅可以更改语音,而且可以更改 一个人似乎可以执行他一生中从未做过的动作。

毁灭性假视频的另一波浪潮是数字化色情视频[4]。一些巨魔通过将女主角的脸庞叠加在女性的身体上来制作深沉的假冒视频,事实证明,如此制作的视频足以诱骗人们。

在这个虚假新闻和虚假宣传的时代,如果 篡改图像是一个挑战,然后深层的假货开辟了一个全新的领域 潜在网络犯罪的规模。

来自德国马克斯·普朗克信息学院的国际研究小组向这一领域迈进了一步,展示了一种技术,该技术可以制作所谓的“深层视频肖像”[5]。他们展示了通过他们的技术,一个人如何控制另一个人的面部运动,即所谓的“面部腹膜炎”。

要解释这一点,那就是说如果那个人 证明这项技术会张开嘴,然后合成的也会 面部(视频中),如果他的示威者会表现出任何面部表情, 软件将复制相同的内容,并在视频中进行描述。

在随后的新闻发布中,该团队确实承认他们的技术有可能被滥用,但是,他们强调了开发该技术的动机,即“为视觉娱乐业带来改变”。正如研究人员所解释的那样,这项技术能够合成看起来与事实“几乎无法区分”的面孔。

1 2下一页
标签

吉安·特里帕蒂(Gyan Tripathi)

Gyan是Metacept信息技术的编辑,对技术以及网络政策和技术法律的发展怀有浓厚的兴趣。推文@Gyan_Tripathi_

相关文章

发表评论