Deepfake先驱:完美伪造视频6到12个月问世

以人工智能(AI)制作造假视频的先驱,近日接受电视CNBC访问时说,他认为半年到1年内就会出现“完美的”deepfake视频。

南加州大学助理教授暨Pinscreen创办人黎颢,上周在美国CNBC的《Power Lunch》节目上,谈到deepfake视频技术未来发展时提出其观点。Pinscreen推出的软件,可让用户即时产生自己的3D虚拟分身玩VR游戏和线上购物。

Deepfake视频是指以AI技术将名人脸部和色情片主角或其他人的嘴形或身体移花接木,制作造假视频,完成恶作剧或毁谤目的。黎颢说,目前要分辨是不是造假视频还是很容易,大部分deepfake视频用肉眼即可分辨出来。但是已经有人可以做出足以乱真的视频,而这需要相当功力和技术。

但是随着视频制作科技及AI算法的进步,黎颢上周在麻省理工学院一场研讨会议中提及,他认为2到3年内就会出现“完美”的deepfake视频。不过他在CNBC上却又改口为6到12个月。在被要求说明时黎颢解释,最近变脸程序Zao上线引发话题后,使他认为这个进程要更为提前。

由中国软件公司陌陌打造的变脸程序Zao,让用户可以上传自己的照片,就能产生电视频段好比自己演出,还能通过社交平台分享他人,这个程序于8月底上线三天后,就跃居苹果App Store免费程序下载排行榜冠军。

黎颢认为,deepfake视频制作技术对娱乐和服装业有很多好处,还能提升视频会议效果,与其一味封锁,更应该做的是发展侦测技术,以防止这类视频流传骗人上当。他指出,deepfake视频制作技术很快就能达到几乎无法侦测的水准,这也是学术研究的重要性。为此他正和加州大学伯克利分校教授Hany Farid合作,研发侦测deepfake视频的技术。

黎颢说,如果不知道背后运行原理及其限制,也不可能开发出侦测deepfake的AI框架。他的团队已经掌握一部分Zao视频制作原理,现在只需要更多数据来训练模型和实例。

很多人担心deepfake视频可能被用来制造假新闻、煽动群众或激化社会冲突。微软和脸书也发起名为Deepfake Detection Challenge大赛,投入总奖金上千万美元鼓励识别Deepfake视频的技术开发。