“机器可以根据自己的判断杀人”。
34年前好莱坞电影“终结者”中出现的场景将成为人类实际存在的问题,因为人类对拥有更强大武器的欲望驱使人类开发装载拥有自我判断力的人工智能武器,因而引发了伦理上的争议。
因此谷歌AI阿尔法狗的开发者Demis Hassabis,特斯拉创始人埃隆·马斯克联合人工智能2400名专家于7月18日在瑞典的斯德哥尔摩举办的“2018国际人工智能大会”上签署了不协助开发杀人AI机器的《致命性自主武器宣言》,这是为阻止开发杀人机器而签署的国际团体参与人数最多的一次活动。
为了促进有责任的技术开发而成立的“未来生活研究所”表示:“包括2400名AI专家在内,来自世界90个国家160个AI企业共同参与签署宣言”,未来生活研究所由语音通话服务公司SKYPE共同创始人Jaan-Tallinn担任代表,演员摩根·弗里曼,MIT教授埃里克·布林弗森等任咨询委员。
宣言强调“人类个体生死的决定权,决不能交给机器,这一方面是出于道德层面的考虑,禁止杀人自动武器的开发,制造,贸易,使用等参与及协助的一切行动”。埃隆·马斯克表示“不能低估了AI的发展速度,这对人类是巨大的威胁,因此要对AI的开发有所规制”。
目前美国,俄罗斯,以色列等政府主导的AI武器已经在开发,美国国防部称正与谷歌一起协力开发提高美国空军无人战斗机攻击力的软件。俄罗斯表示要以开枪射击或投射手榴弹为目标开发战争用机器人。而以色列也公开了一款可以一次向目标发射14发实弹的轻量型机器人“DOGO”,这款小型机器人装备了一支格洛克269mm手枪,能对恐怖分子或那些亡命徒发起突然袭击并射杀他们,这款机器人也因此被称“无情的杀手”。