微软AI编辑认错人,错置新闻配图

微软5月底裁掉内部新闻编辑,希望以AI算法取代。不过英国卫报报道,刚上路的AI编辑就出现认错新闻人物,贴错照片的糗事。

英国女子歌唱团体混合甜心(Little Mix)成员之一的Jade Thirlwall,上周参加英国黑人平权运动“Black Lives Matter”的抗议活动时,谈及她因为有黑人血统,小时候遭遇的歧视待遇。但关于她的新闻在由MSN.com转载刊出后,AI算法却识别错误,而用了同为混血的团队成员Leigh-Anne Pinnock的照片。

Thirlwall随后通过IG抗议指出,如果MSN还要再从其他精准的新闻媒体copy and paste文章,最好也确定用对混血族裔的成员照片。

按照MSN及微软新闻服务的做法,所有新闻内容来自合作的第三方新闻网站提供,再由微软的编辑员工负责审稿。这批人员5月底遭到裁撤后,将由AI算法包办从挑选新闻、处理、改写标题、配照片到出刊的所有工作,全自动化作业将于6月30日正式上路。

但是AI脸部识别一直存在性别及种族偏差问题,在识别白人男性精确度较高,但在识别女性及少数民族、有色种族时就有很高的误判率。在微软裁员时就有人担心,以机器取代人类可能导致微软新闻服务大乱,尤其在处理暴力、色情或冒犯性内容,连人类都可能判断出错。

微软表示,公司一发现错误,即立即解决,换掉错误的配图。但对于AI算法偏差问题,以及是否考虑回复旧制,微软并未作出评论。