这对于流行文化的
机器人来说也是一样的。他们的行为偏差,我们也难辞其咎。例如《银翼杀手》(Blade Runner)中的复制人Roy Batty剜伤其创造者Eldon Tyrel博士的眼睛,他其实真正想要的只是再多活几年(Tyrell仅给了他4年的寿命)。《2001太空漫游》(2001: A Space Odyssey)中具有人工智能的HAL 9000超级计算机杀害航天员Frank Poole,用钊是为人自保而先发制人。而在《钻石宫》(Westworld)中,尤伯连纳扮演的
机器人枪手开始杀害主题公园的游客,问题就出在“机械故障,或是“计算机病毒”。
机器人本身并没有错,错就错在编程。表面上看来,Eldon Tyrell博士巧妙地为复制人加入远程关闭机制(有如当今智能型手机中用来紧急关闭远程装置的安全机制),想以限制复制人寿命的方式作为保护措施。HAL的设计者则粗心忽略了科幻作家Isaac Asimov在1942年提出的“机器人三定律”(Three Laws of Robotics)——其中最重要的就是“机器人不得伤害人类”。为了提供真实的效果,“钻石宫”(Westworld)主题游乐园的技术人员则错在利用以热感应为基础的真枪来保护游客的安全,却又同时让机器人成为游客瞄准的目标。这些工程人员是否与企业危机管理团队进行过咨询?如果有的话,他们应该会建议不要使用真枪实弹,以免导致潜在的意外发生。
我希望未来的机器人设计能够完全避免这些问题的发生。我心目中理想的机器人不会阴险地密谋、不会进行不人道的暴力行为,或持有最后可能反过来用于对付我的强大武器。它应该更像是《杰森一家》(The Jetsons)中的机器女佣Rosie,而不是《银河飞龙》(Star Trek: The Next Generation)中的Data机器人或《魔鬼终结者》(Terminator)中Cyberdyne Systems出厂的Model 101终结者。