研究人员发现LinkedIn上有超过1,000张伪造的大头照与个人身份

美国公共广播电台(NPR)本周指出,两名斯坦福大学的研究人员无意间发现LinkedIn上有人使用AI合成的照片来创建个人文件,进一步调查后,至少发现了超过1,000张伪造的照片,利用这些假冒的LinkedIn账号来替企业营销。

率先发现此事的是Renée DiResta,她是斯坦福大学网络观测计划的研究人员,先前曾研究过俄罗斯的不实资讯及反疫苗阴谋活动,对于虚假的事物特别敏锐。

引起DiResta怀疑的是她收到一个来自LinkedIn用户Keenan Ramsey的消息,Ramsey宣称自己是LinkedIn一个企业家社团的成员,询问DiResta对于可以在任何设备上统一访问消息、视频或电话的软件有无兴趣。

DiResta虽然对这个人信息讯没有兴趣,但她去查看了Ramsey的个人文件,发现Ramsey耳环只戴了一边,发丝时有时无,而且眼睛完全处于图片的中心线,她立即通知了网络观测计划的同事Josh Goldstein,结果发现LinkedIn上有超过1,000个账号所使用的照片是由AI软件生成的。

这两名研究人员识别AI生成照片的重要指标之一便是眼睛的位置,再加上完全看不出是什么的模糊背景,以及奇怪的打扮(少了一边的耳环)。此外,她们也去调查了Ramsey的背景,发现不管是Ramsey现在或曾任职的公司,或者是她所列出的学校,都没有这号人物。

接着DiResta与Goldstein就开始研究LinkedIn上可疑的大头照,与它们的个人文件,发现至少有超过1,000个个人文件采用AI生成的照片,伪造个人资历,而且它们宣称自己隶属于超过70家公司。

研究人员相信这是营销企业的杰作,营销企业负责替客户推销商品,却通过成立假账号来进行,相较于聘请真正的营销人员,以AI生成的伪造身份进行营销似乎成本更低,而且有不少客户完全不知道营销公司采取此等手法。

至于LinkedIn则在收到研究人员的通知,并进行确认之后,删除了这些假账号。

发表评论