Deepfake是一种AI图片合成技术，通过深度学习将视频、照片中人物进行换脸处理。过去几年，在不少影剧、娱乐，甚至一些重要政治场合，都能看到使用Deepfake伪造名人或政治人物的迹象，因为换过的人脸几可乱真，有时连人们自己都难以分辨真假。
这两年，科技圈针对这种AI造假视频的反制手法也展开研究，微软和脸书还曾举办挑战赛找解决方案。不过直到去年Deepfake视频识别技术大赛，准确度最高只认得8成。另外有科学家想出办法，以眼角膜上的光线反射图像来提高AI变脸侦测的准确度，虽然识别度有高达9成以上，但使用上仍受到不少限制。
近日一场Arm DevSummit 2021高峰会上，脸书AI基础架构研究负责人李宪信也透露，目前脸书在Deepfake造假视频识别研究的进展。李宪信也是脸书AI研究部门一员，带领研究团队专注AI与ML系统研究。
由于近几年，在脸书上分享Deepfake造假内容，有逐渐增加的迹象，所以脸书自去年开始着手规范及封锁Deepfake内容，甚至2年前也开始尝试结合AI技术，还举办挑战赛，希望能改进这类AI假视频的识别算法，但李宪信坦言，目前识别成功率约在60%左右，距离真正可用还有段距离。
脸书上不只有AI造假视频，还有不少滥用AI技术的例子，李宪信也举例，一些独裁政府，会利用脸书平台来打压反对声音，并会引入political bots政治机器人大军，运用像自然语言处理这类AI技术，自动回应一些文章，自动攻击反对者的批评声音，他说，这样的情况，也有出现在如台湾等民主国家，甚至有些国家独裁者更拿它来统制人民，或用来打击反对党，“这是我们在脸书上观察到的现象。”
遇到这类有违AI道德伦理的问题，脸书也以AI作为反制手段，以相对应的AI技术移除这些机器人假账号。不过，李宪信表示，脸书每天需要删除这类的假账号数量，超过数百万户，现阶段纯用AI来处理，还是有其限制，需要人工介入。他也坦言，这是非常难解的问题。
除了要用AI识别视频真假，他也提到，脸书目前正在投入的AI研究项目，像是让AI具备有内容理解能力，能够根据文意脉络判断出，这是否属于一个违反道德伦理的行为，例如图文不符带有攻击他人的内容，进而将它移除。