IBM退出人脸识别业务!反对技术沦种族歧视帮凶

以往身为AI最忠实信徒的蓝色巨人IBM,本周宣布退出人脸识别领域,不再研发、销售及使用相关技术。面对近来席卷全美的种族怒火,这间百年老店也决定做出割舍。

非裔男子乔治.佛洛伊德(George Floyd)被警方压颈致死的事件,成为引爆美国常年种族不平等争议的导火线,抗争如野火般迅速燃烧全美各地,在多座城市掀起暴动。

在美国国会正呼吁改革制度与体系,防止结构性种族主义的同时,IBM 4月新上任的首席执行官阿文德.克里希纳(Arvind Krishna)也撰写一封信,致函国会响应种族平等,声称他们已放弃人脸识别技术,坚决反对将任何技术用于侵犯人权、成为种族歧视帮凶。

IBM首席执行官阿文德.克里希纳表示,公司将退出人脸识别领域,并坚决反对任何侵犯人权的技术。退出人脸识别领域,IBM:反对技术成为种族歧视帮凶

克里希纳在信中表示,“IBM不再提供人脸识别技术,坚决反对且不会容许任何技术(包括其他企业的人脸识别技术)用于大规模监控、种族歧视、违反基本人权与自由,或不符合我们价值观与《信任与透明度准则》的行为。”

根据《CNBC》报道,人脸识别业务对IBM营收的贡献并不大。但作为美国政府最主要的技术供应商,他们的决定仍具有相当影响力,根据公部门研究公司Tussell的数据,IBM在2018年第一季拿下总计9,700万美元政府合约,居所有厂商之冠。

克里希纳呼吁,AI是种强大的工具,但供应商及用户有责任确保AI没有偏见。IBM对于人脸识别向来格外谨慎,去年也曾推出新的人脸数据库,希望纳入更多样的脸部数据,减少对有色人种的识别偏误。

人脸识别一直是美国社会争议不休的问题,由白人主导开发、训练的AI系统,对有色人种识别准确度较低,早已是不争的事实。

过去亚马逊提供警方使用人脸识别系统Rekognition时,美国公民自由联盟(ACLU)利用国会议员照片与2.5万名罪犯相比对,结果有28名议员被识别为犯罪者,有色人种的错误率又更高。

近期亚马逊在推特上哀悼黑人的不公义遭遇时,ACLU也讽刺回应:“很棒的推文!你会承诺停止销售助长警察滥用职权的人脸识别监控技术吗?”

Cool tweet. Will you commit to stop selling face recognition surveillance technology that supercharges police abuse?https://t.co/DfnAhyw2PW

—ACLU (@ACLU)May 31, 2020

今年初,AI技术公司Clearview AI也因为擅自从社群媒体取用照片,使用于训练人脸识别技术而官司缠身;Facebook也因为人脸识别侵犯用户权益而赔偿5.5亿美元。

“新领”时代人才不必有高学历,IBM呼吁提供有色人种更多培训机会

在诉求运用技术应更谨慎之余,克里希纳也提倡对警察制度进行彻底改革,要求各州更新武器使用规范,以及警察在执法时承担更多责任等。

另外,克里希纳也在这封信中提倡扩大针对有色人种的技能培训及助学津贴,声称这是增加有色人种经济机会的关键。他重申以往IBM所提出的“新领阶级”概念,强调新时代的工作需要专业技能,但不一定需要大学学位,呼吁政府更大规模实施培训,为有色人种创造工作机会。

先前Snap首席执行官斯皮格(Evan Spiegel)也指出,种族问题的核心之一在于经济不平等。消除人种之间的社经地位差距,会是解决美国纷乱种族问题的重要关键。