Facebook AI系统大出错!竟把黑人误标注为“灵长类动物”

Facebook的AI系统出现离谱失误!根据《纽约时报》报道,Facebook系统竟然误将黑人男子识别成“灵长类动物”,Facebook已经道歉并禁用主题推荐功能。

英国小报《每日邮报》(Daily Mail)2020年6月27日上传一支视频,关于几名黑人、白人以及警察发生争执的内容,但Facebook系统却自动询问是否“继续观看有关灵长类的视频?”

Facebook发言人表示,“这显然是无法令人接受的错误”,在意识到发生什么事情后,公司立即禁止主题推荐功能,并调查原因,防止这种行为再次发生,“虽然我们已经对AI系统进行改进,也知道它并不完美,还有很多进步空间必须改进,也想向那些可能看到冒犯建议的人道歉”。

虽然人类的确可以说是“灵长类动物”,但这起事件的确是AI性别或种族偏见的最新例子,根据最近的研究显示,脸部识别技术可能对有色人种产生偏见,通常更难识别他们,或者辨认时更常出错,这也导致黑人受到歧视或逮捕的事件频传。

2015年,Google Photos曾把黑人的照片标签为“大猩猩”,Google表示非常抱歉,也立即修复这个问题;由微软与Bing开发的人工智能聊天机器人Tay,在与上万名网友交互、演化后,开始出现种族歧视的言论,或者发文歧视黑人、墨西哥人等,最终被迫下线;Facebook去年则研究使用AI训练的算法,看是否存在种族偏见。

(首图来源:Flickr/Book CatalogCC BY 2.0)

发表评论