当大家目光在防范DeepFake产生假造的政治人物说话视频，或是影剧明星被移花接木演A片，有个悄悄潜伏而且更难以防范的危机。交友网站需要妹子，广告文案要呈现多样群体形象，情报员想要靠近目标获取情报，但都不想寻求模特儿。因此采用AI生成的不同类型人脸，相当便宜而且想要什么类型都能满足。
当不少人已经习惯在约会网站文件其中，显示艺术照形式个人照片，好像也不能怪企业找来模特儿假冒平台上的女性。如果技术进步之下，连找模特儿拍照建文件都省了，只用AI就可以轻易产生以假乱真的文件照，恐怕在被不实消息轰炸的今日，要花不少精力辨别何者是真何者是假了。
目前AI的技术，可以轻易制造人类的图片，而且难以辨别真假，不论是开源的软件，例如Nvidia的SytleGAN，还是兜售技术的创业公司，提供各式各样产生真人图片的实力。如果只是交友约会网站基于宣传目的，在宣传品其中加上各种像真人的人类图片，那还是小事，最怕是诈骗集团拿来运用。
AI专家警告AI生成真人图片的技术，落入诈骗集团、机器人账号可能就是短期敲诈个人金钱。但如果是间谍或是信息战操作者，搭配适当的文件故事，能轻易创建拥有可信度的假账号，进而在社群网站兴风作浪，传递不实信息。或者是情报员背后操纵的美女账号，套取华盛顿特区流传的政治情报。
加州大学洛杉矶分校法学院专长为AI、法律和政策研究的研究员Elana Zeide就认为科技进步之下，对比一般人没有多少识别网络上信息的权利和知识。相比真实世界容易识别真假，面对网络上真假难辨的信息往往束手无策。
Icons8网站Generated Photo提供相当拟真的真人照片生成服务
Rosebud AI是其中一家用AI生成25,000照片组的创业公司，要解决小型电商苦楚，那就是店家不必花大钱请来模特儿摆拍服饰与配件照片。他们用线上免费且无版权的照片来当制作的材料，商务上则是严格筛选客户，希望他们不要用他们技术在不好的事情上面。
AI GAN技术如SytleGAN还是有限制，GAN算法无法无中生有，而且假若训练的照片缺少某些族裔，AI并无法在产生的图片其中，凭空生产出来。另外需要的运算能力也相当的大，需要架设服务器以及采购性能好的显卡。
Which Face is Real网站考验大家识别能力，要大家挑选哪张不是AI生成照片，是真的人脸照片。 (Source：Which Face is Real)
不过不少AI公司受益于公有云企业，例如彼此竞争市场占有的Google以及亚马逊，提供创业公司能够负担的价格。另外不少公司觉得AI技术被乱用不是他们责任，而应该使整体社会要想出应对新技术的管理办法。
This Person Does Not Exist能够给你几可乱真的人类头像。
尽管照片越来越能够用AI来自己生成，但是AI生成的人脸照片还是有破绽，像是人身体与背景之间处理不干净出现不自然的背景，观察人脸与背景交界处很容易找出破绽，如头发与边界处出现像小水泡的斑点。另外带着眼镜的图片目前仿真的状况也不好，牙齿太对称了，真实的人类牙齿并不对称，还有AI产生有3个门牙的图片。
连猫图片也能用GAN产生像是真猫的图片。 (Source：This Cat Does not Exist)
至于可能因为AI被取代的真人模特儿，他们有的担心有的不担心，认为不必担心的人觉得真人摆拍的模特儿仍会存在，至于担忧的人，他们则是说尽管担忧，最终并无法阻止被取代的趋势。
(首图来源：Generated Photo)