Google、亚马逊、Facebook三巨头齐上阵,枪口瞄准Deepfake

Deepfake并不是一个陌生的词,在人们为其所呈现出来的逼真效果惊叹之余,它所带来的负面影响也逐渐蔓延全球。

为了与恶意的Deepfake视频对抗,Facebook在今年9月份牵线,联合学术和企业两个领域的力量,共同发起以低成本的方式检测出Deepfake视频的挑战赛。计划的参与者还包括康乃尔科技校区(Cornell Tech)、麻省理工学院(MIT)、牛津大学(University of Oxford)和伯克利大学(UC Berkeley)等,以及非盈利性研究组织Partnership on AI──该组织的成员有Google、苹果、亚马逊、IBM等大型科技公司。

在本周于温哥华举行的NeurIPS 2019大会上,这项关于Deepfake检测工具的竞赛将正式启动,竞赛到2020年3月才会结束。Facebook人工智能总监、该挑战赛的负责人之一Irina Kofman表示:

看到多个领域的伙伴一起合作是鼓舞人心的,无论是来自企业界还是学术界,我们每个人都带来了各自领域的见解,因此,我们可以考虑得更广泛周全。

据悉,从12日开始,注册的参赛者可以下载语料库来训练自己的检测工具。一旦他们完成最终设计,就可以将检测工具的代码提交到一个黑盒中验证。在验证的过程中,官方系统会根据检测工具的有效性进行评分。参赛者无需共享自己的工具模型,但他们必须同意开源其工作,只有这样才能够获得挑战赛的奖励。

为了这场竞赛的顺利进行,各大科技巨头也纷纷贡献出自己的力量:Facebook方面表示,他们已经投入超过1,000万美元来鼓励人们参与竞争;亚马逊则为参赛者提供可选的模型;Google旗下的Kaggle数据科学与机器学习平台将主办挑战赛并负责排行榜(用来评定Deepfake检测系统的能力)的相关事项。

Facebook首席首席技术官Mike Schroepfer在一篇文章中指出:

Deepfake技术是基于AI技术合成的视频,它的真实性和合法性受到一定的质疑。但截至目前,人们并没有相应的数据集或基准来帮助检测Deepfake视频。所以,我们希望能找到一个解决方案,帮助人们发现这些被篡改过的视频,进而避免被误导。

(Source:Facebook AI)

为了加快数据集的创立,Facebook不仅委托研究人员生成逼真的Deepfake视频来充当训练材料,以便于测试检测工具的效果。与此同时,Facebook也表示,这些视频邀请一组“多样化”的付费演员出演,大约54%的女性和46%的男性。

Facebook AI研究经理Christian Ferrer表示,该数据集(总共包含超过10万个视频)在10月份的国际计算机视觉会议上进行测试,而且它不包括任何用户数据,并且只有已签订使用协议的团队才能访问。

虽然,目前加州大学伯克利分校(University of California, Berkeley)和南加州大学(University of Southern California)共同开发的一种工具已经提前发布,它的识别准确率超过90%,但与此同时,Deepfake技术也在不断变化发展,这也让检测变得越来越困难。

纽约大学坦登工程学院计算机工程助理教授Siddharth Garg对此表示,“这就像一场猫鼠游戏,如果我们设计了一个Deepfake的检测器,就等于给黑客一个新的仿真器进行反测试。”

总之,想要打赢与Deepfake制作者之间的“军备竞赛”看起来长路漫漫,但这场关于检测工具的竞赛马上就要全面展开,来自各方的力量将一同抗衡作恶的Deepfake──我们应该乐观一点。