法新社20日报道,这封写给联合国的信由116名科技界精英签名,包括美国特斯拉公司首席执行官埃隆·马斯克、研制出人工智能“阿尔法狗”的深度思维技术公司联合创始人穆斯塔法·苏莱曼等。
信中写道,“机器人杀手”、即能致人死命的自动武器会改变战争的方式,使武力冲突“扩大至前所未有的范围”,甚至有可能“远超人们所能理解的程度”。
此外,恐怖组织可能通过黑客技术盗用“机器人杀手”,进而伤害无辜平民。
这些科技界领袖呼吁联合国立即采取行动,“我们所剩的时间不多了。一旦潘多拉的盒子被打开,就很难再关上”。
据联合国官网显示,一个联合国人工智能专家组原定21日开会商讨“机器人杀手”事宜,但会议随后取消,预计将推迟至11月举行。
2015年,数千名研究人员联合发起一项行动,寻求禁止自动武器。英国著名物理学家斯蒂芬·霍金、马斯克等人曾多次警告人工智能带来的“危险”,尤其是不可对“机器人杀手”掉以轻心。
今年7月,马斯克与美国脸书公司创始人马克·扎克伯格围绕“人工智能对人类是福还是祸”展开隔空论战。马斯克认为,人工智能对人类文明是一个“可怕的问题和威胁”,可能会引发战争或者在街头杀人,必须提早加以管控,否则等发生严重后果便为时已晚。扎克伯格却不以为然,表示不能理解“那些认为人工智能会导致末日的‘悲观主义者’……从某种角度看,我认为他们很不负责任”。马斯克随后驳斥,扎克伯格对人工智能的认识“有限”。