联合国警告:AI将对人权造成威胁,呼吁暂停销售及使用AI系统

联合国的人权事务专员Michelle Bachelet在本周警告,人工智能(AI)系统可能对人权带来威胁,呼吁在取得适当的保障之前,各国应该要暂停销售及使用AI系统,且它对人权的威胁愈高,相关的法令就应该愈严格。

Bachelet的担心奠基在联合国人权办公室在最近发布的《数字时代隐私权》(The Right to Privacy in The Digital Age)调查报告,该报告分析了各种AI技术如何影响人们的隐私或其它权利,包括健康、教育、行动自由、言论自由或集会自由的权利。

Bachelet说,AI现在已经渗透到人们的身、心,甚至是情绪状态的每个角落,人们利用AI系统来决定谁可以得到公共服务,决定谁可以获得特定的职位,更影响了人们在网络所看到或能够分享的信息。

《数字时代隐私权》披露了AI系统如何依赖大量的资料,这些资料集所含的信息通常是借由不透明的方式来搜集、共享、整合及分析个人资料而来,它们可能是错误的、歧视的、过时或不相关的,此外,长久存储这些资料还会带来额外的风险,因为不确定这些资料未来是否会被以任何不明的方式所开采。

此外,研究也发现因为AI的失误而被不公平对待的许多案例,例如被拒绝领取社会福利或是遭到逮捕等。

Bachelet认为,有鉴于AI系统的持续及快速增长,如何填补上述的缺口已成为当务之急,由AI执行的决策可能改变、定义,甚至是危害人类的生活,因此需要针对AI的影响力进行系统化的评估与监控,以降低它对人权所带来的风险,不应再放任人们在毫无限制或监管的状态下使用AI,并在它带来严重后果时才加以弥补。

发表评论