欧洲议会就机器人提案投票 机器人将被视为电子人
提案中建议,设计师们应该确保任何机器人身上都装有“关闭开关”,在必要时候,允许人类关闭机器人功能。与此同时,机器人用户应该在没有危险或担心受到心理或生理伤害的情况下使用机器人。提案中称,机器人、聊天机器人以及其他人工智能机器正准备发动新的工业革命,任何社会阶层都将受到影响。
机器人新时代几乎拥有“无限繁荣”的巨大潜力,但也不禁令人对未来就业产生担忧。当机器人取代大量工作岗位时,欧盟成员国是否需要引入基本收入保障制度?如果这些机器人系统出现故障或遭到黑客袭击,人类与机器人的关系还会引发隐私、人类尊严以及人类身体安全等方面的忧虑。提案中承认,AI在智力方面可能在几十年内超过人类。如果不对此做好充分准备,人类可能再也无法控制自己的创造物,进而无法掌控自己的命运甚至是生存权利。
科幻作家艾萨克·阿西莫夫(Isaac Asimov)曾提出机器人三原则,即当机器人拥有自我意识后,它们应该如何行事。机器人三原则包括:1.机器人不得伤害人类,或看到人类受到伤害而袖手旁观。2.机器人必须服从人类的命令,除非这条命令与第一条相矛盾。3.机器人必须保护自己,除非这种保护与以上两条相矛盾。
与此同时,机器人研究应该尊重基本权利,并为人类谋福祉。设计师可能被要求为机器人进行登记,同时在机器人造成的意外或损失调查中提供源代码。设计师在进行最新机器人研究时,可能需要获得研究伦理委员会的批准。提案呼吁创建欧洲机器人和人工智能机构,以便提供技术、伦理以及监管等方面的指导。
有许多报道称,大量工作将被人工智能或机器人取代,欧盟成员国应该考虑为本国公民引入普遍的基本收入保障机制。提案还呼吁机器人承担法律责任,并建议它们承担的责任应该与机器人的实际指令水平和自动化程度成正比。提案中称:“机器人的学习能力或自动化程度越高,其他方需要承担的责任就越小。机器人受训的时间越长,其导师应该承担的责任就越大。”
将来,机器人的制造者或主人可能要为他们机器人造成的潜在损坏投保。如果欧洲议会投票通过这部提案,还需要各成员国进行进一步辩论和修改,最后才会成为欧盟法律。