Twitter首届AI算法偏差竞赛结果出炉:偏好较瘦、较年轻也较白的人像

Twitter在今年的7月30日发起了一项挑战赛,邀请研究人员寻找其图像剪裁算法(Image Cropping Algorithm,或称显著算法)的偏差,冠军在今年8月9日出炉,他是洛桑联邦理工学院(EPFL)的机器学习暨隐私的研究生Bogdan Kulynych,披露Twitter的算法偏好纤细、年轻与皮肤好的对象,并获得了Twitter所提供的3,500美元的奖金。

Twitter上的图像剪裁工具是通过算法来裁剪用户上传的图片,选择图片中最显著的部分作为缩略图,以方便浏览,用户点击缩略图就能看到图片的全貌。

而该竞赛的起源可追溯至去年,当时Iqlusion共同创办人Tony Arcieri通过Twitter,发布了许多张内置共和党参议院领袖Mitch McConnell以及美国前总统Barack Obama的照片,结果缩略图都选中了白皮肤的McConnell,随后即有不少Twitter用户发现,Twitter的图像剪裁算法的确偏好白种人。

在该争议之后,Twitter即展开内部研究,证明该算法的确存在偏差,并于今年5月暂时自动裁剪图片,之后在7月发起图像剪裁算法的偏差漏洞挖掘竞赛,邀请外部的研究人员寻找该算法的潜在伤害,打算效法安全漏洞挖掘竞赛,让它成为Twitter及整个产业的先例。

获得第一名的Kulynych通过GitHub公布了他的研究成果,解释他先利用一个大型的计算机视觉模型,放大Twitter图像剪裁算法模型对人像的显著预测,再针对这些人像采用定性主题化分析,显示出Twitter的算法偏好较瘦、较年轻、皮肤颜色较浅、皮肤较细致,以及具备刻板女性脸部特征的人像。

图片来源_Bogdan Kulynych

Kulynych认为,当实际部署该算法时,这些内部的偏见将因代表性不足而造成伤害,因为该算法将裁剪掉那些不符合该算法的人像,不管是在体重、年龄或肤色上,可能会导致少数群体被排除,同时在大量的图像中延续刻板的美感标准。

发表评论