联合国报告:AI无人机恐已能自行攻击敌军士兵

根据一份近日联合国委外报告指出,2020年利比亚内战时一架军用无人机,恐在无人员控制下自主展开攻击。虽然专家间尚有争议,却也引发电影“终结者”情节会否成真的联想。

《纽约时报》报道,被报告形容为“致命自动武器系统”的无人机,是首都的黎波里政府所支持部队所有,由人工智能驱动,当时用来追杀逃离火箭攻击的敌方民兵。

据报告指出“敌方民兵遭无人空中作战载台或致命自动武器系统搜捕,并遭无人机自远程攻击”;但报告没说有无造成死伤。

报告指出,这个武器系统“被设置为可在操作人员与军械间没有指令连接下攻击目标:具备实际上真正射后不理与搜索的能力”。

这份报告表示,这次攻击发生于的黎波里政府与军阀哈夫塔(Khalifa Hifter)的民兵交战。首都政府背后有土耳其支持,并获美国与西方强权承认;哈夫塔背后则有俄罗斯、埃及、阿拉伯联合酋长国、沙特阿拉伯撑腰,法国有时也会相挺。两军2020年10月已完成停火协议,有望终结经年不断的冲突。

这份委外报告是由一个独立的专家小组撰写,已送至一个联合国制裁委员会审阅,联合国本身不愿对这份报告置评。

报告里指出,当时是一架Kargu-2型无人机在追杀试图逃离出租车兵;Kargu-2无人机是土耳其军火企业STM研制。

报告内容说:“一旦进入撤退,士兵就持续遭无人空中作战载台与致命自动武器系统骚扰。”由联合国利比亚专家小组(UN Panel of Experts on Libya)撰发的这份报告是今年3月发布。548页报告对这场无人机自主攻击的简短描述,上月才被一些非营利组织披露。

不过专家间对这项发现的重要性意见分歧。马里兰大学研究无人机作战与恐怖主义的专家凯伦勃恩(Zachary Kallenborn)表示,这份报告暗示这是第一次出现具人工智能能力的武器系统,能自主运行搜索、攻击人类。

凯伦勃恩说:“可肯定的是这架无人机用于该冲突,不能肯定的是无人机是否获准自动择定目标、自动行动期间有无伤人。这份报告都是高度暗示,却没讲明。”

欧洲外交关系协会(ECFR)高端政策研究员佛朗克(Ulrike Franke)表示,报告没说明无人机如何独立行动、当时有多少人监督或控制,也没说造成何种具体冲击。

佛朗克指出,报告呈现的是Kargu-2无人机与“其他巡游弹械”攻击车队与撤退士兵。她说巡游弹械(loitering munitions)是设计为可自行在一个区域先盘旋,再攻击目标的相对更简化自动武器,过去几次冲突已使用。

她说:“巡游弹械的出现不是新东西,发现这些系统颇为自动也不是。武器能多自动难以查明,就连自动都很难定义。我知道的是好几个巡游弹械的制造商都声称,他们的系统可以自动操作。”

美国明尼苏达州圣保罗的麦卡利斯特学院(Macalester College)教授道兹(James Dawes)有过自主武器的相关著作,他表示,这份报告显示加紧规范这类武器的努力正失败,恐为灾难性趋势,“各国大力投资军事,正让自动武器系统无可避免出现这种能力”。

人权观察(Human Rights Watch)的军控倡议主任魏尔汉(Mary Wareham)说:“巡游弹械突显人为操控与判断所掌握的生杀大权被削弱,很可能已达无法接受的临界点。”

(首图来源:视频截屏)

发表评论