Sensity:不雅图片造假工具通过Telegram散播,受害者恐超过10万人

号称是全球首家视觉威胁情报的安全企业Sensity,在本周披露了一个藏匿在Telegram通讯平台的新Deepfake造假组织,某非法组织打造了一款图片造假AI机器人,会自动产生上传照片的伪造不雅照。

Sensity统计每个月发布到Telegram频道的照片数量,这个造假Telegram频道的用户数超过10万名,也累计至少超过10万人的照片遭锁定被恶意修图成不雅照。

根据Sensity的调查,该AI机器人现身于2019年中,利用开源的深度学习Deepfake技术,来将穿衣照片变造修改为裸体照片。始作俑者还通过Telegram平台上开设了7个频道,来散播这个Bot工具。Sensity关注这个bot的使用情况,有7成的用户来自俄罗斯与前苏联国家,其次是西班牙和拉丁美洲地区(6%)。另外,7成的用户声称他们是从社交网站或它私密资料取得原始照片。

值得注意的是,该AI机器人还在俄罗斯社交网站VK大打广告,在发现该Deepfake生态体系之后,Sensity同时通知了Telegram、VK与执法机关,并在报告中提出警告,担心这些伪造的不雅照除了会在私人频道中流传之外,也可能流落到公开平台,变成羞辱或敲诈工具。