目前不少国家开发了智能战场
机器人,这些机器人杀手让人们担心《圣经》中描述的审判之日已经离我们不远。出于对战场机器人的顾虑,不少政府开始更加关注对战场机器人问题,至少距离完全禁止生产机器人杀手迈出了第一步,当然,是在机器人杀手被造出来之前。
今年11月,CCW(《特定常规武器公约》)的成员国同意明年在日内瓦举办会议讨论“致命自主武器”的议题。这个名字是官方的叫法,抗议者们称之为“机器人杀手”。
机器人对军方而言优势太大:无需报酬、不吃不喝不睡觉、自主执行上级命令、不会害怕、愤怒,也不会痛苦。还有,即便机器人在战场上轰成渣,也不会造成国内悲痛。
从第一辆坦克投入战场到以色列研制的大卫的投石索飞弹,技术改变战争的例子不胜枚举。近来备受争议的战争用无人机便是例子,但是即便如此,无人机也需要人远程控制。无论是锁定目标还是发射导弹,做决定的都是人。
无数专家关心的其实是下一代机器人武器:可以自行决定目标并杀死目标的武器。
禁止制造机器人杀手
“明年开始全球国家将对机器人武器进行讨论,这对禁止制造机器人武器是一个巨大的进步,”人权观察的武器负责人Steve Goose说,“各国政府已经意识到全自动化武器带来巨大的立法压力和道德压力,问题已经刻不容缓。”
目前完全自主机器人武器部署到战场可能还需要等上20-30年,但由学者和专家组成的国际机器人控制委员会(ICRAC)担心可能发生的机器人武器军备竞赛,认为有必要禁止研发和使用自主武器系统。委员会指出:“机器不能做出谋杀人类的决定。”
目前还没有那个国家制造出自主武器,但是这个提议绝非只是纸上谈兵。今年下半年美国国防部(DOD)发布了如何使用自主武器以及如何在战场部署自主武器的规划书。书中规定了如何操作自主武器,然而却没有只字提到禁止使用。
国防部指导中写到:“自主和半自主武器应该能够听得懂指挥官或操作人员下令开火的合适命令。”规划中要求武器要做到“足够机动灵活,尽量避免执行计划外行动或让未授权使用者操控机器。”
但是指导似乎的的确确放弃人工智能武器,而选用人类精确定位目标:“有人监控自主武器系统可以用于选择目标并向目标开火,但目标不可为人类,以应对拦截美国国内可能发生的袭击行动,这些行动经常是时敏目标或密集目标。”
英国政府的态度则与美国相反,英国并不打算采用全自主武器。今年初英国外交部部长Alistair Burt向国会做陈述说:“英国军队的武器控制权始终掌握在人类手中,以此保证武器由人类监督由人类掌管,并由人类负责使用武器。”
但是随后Burt的言辞又让人寻味:“英国单方面做出承诺目前阶段绝不部署致命自助武器系统,但是这不表明英国会签署暂缓研发和使用自主机器人武器的条约。”
ICRAC主席Norl Sharker是英国谢菲尔德大学研究人工智能和机器人的一名教授。这位教授看过了自主武器的军方计划书后大为震惊,因为“军方显然完全过分预估了这项技术,他们对自主机器人的看法更像是科幻小说的描写”。
ICRAC提议禁止研发和制造自主机器人武器的目的并不是抵抗自主机器人。“我家里用的吸尘器机器人就是自主机器人,我研究自主机器人的开发已经有30个年头了。”
ICRAC真正希望是禁止机器人拥有“杀戮功能”。自主机器人一旦运行,就会自主寻找目标并打击目标。Sharkey说:“打击目标的意思是指杀死目标。把机器人设计成自己选择自己认为合适的目标进行打击,这就是ICRAC要阻止的。”
对Sharkey来说,机器人根本不会遵循基本的战争法。机器人无法区分战斗人员和平民,也无法分辨出哪些人是伤兵或者那些建筑是符合战争法中规定的可打击目标。“没有任何人工
智能机器人武器可以做到完全分辨目标,根本不可能。”
Sharkey博士指着英国制造的可以区分人和汽车的机器人说:“这太机器人可以分辨人和汽车,但却分不清对面站着的是一只跳舞的狗熊还是一条两条后腿站立的狗。”
机器人武器也不能判断利弊。他说,机器人无法判断某次攻击行为造成的军事打击和平民伤亡孰重孰轻。“机器人怎么可能知道?军事打击获得的战争优势都可以让博士们发表好几篇论文了,战场上有太多变数,只有身经百战的指挥官身临战场才能做出判断。”