最近特斯拉CEO埃隆·马斯克称AI将是“人类文明面临的最大风险”的言论再次引发了AI(人工智能Artificial Intelligence)界的强烈不满。Facebook创始人扎克伯格高调予以回击,称这种言论是“消极的,甚至有些不负责任”。
马斯克回应扎克伯格“认知有限”。这两位科技大佬之间关于人工智能的“战争”就此打响!同时科技界关于人工智能的辩论也被推向了一个更高的层次。
对此,微软联合创始人比尔·盖茨公开表示与马斯克持相同观点。他认为,短期内
机器人确实会帮人类不少忙,但从长远来看,人类还是需要对人工智能的潜力保持忧虑状态。
实际上,这已经不是“AI末日论“第一次引起轩然大波了。比如,“地表最强大脑”史蒂芬·霍金就曾预言人工智能是毁灭人类元凶,并且是这一阵营的坚定支持者。微软创始人比尔·盖茨也曾多次表示,人类应该谨慎对待超级智能。
从《黑客帝国》到《终结者》,现代
电影、小说中拥有独立意识的人工智能毁灭人类的戏码屡见不鲜。在现实中,人工智能也逐渐融入了人们的日常生活。比如横扫围棋界的阿尔法狗,入侵华尔街的沃伦软件,以及不久前“自杀”的保安机器人k5。
这开始让人们产生了某种焦虑——机器人有意识吗?他们有感情吗?未来AI会不会毁灭人类?人们迫切想要知道问题的答案。从2015年开始,博鳌亚洲论坛年会连续3年设置有关人工智能的分论坛,邀请不同领域的嘉宾展开头脑风暴。
2015年,“对话:技术、创新与可持续发展”、“人工智能与人类的未来:魔鬼,还是天使”
2016年,“机器人与人工智能:从它到她”、“人工智能:探索生命疆界”
2017年,“人工智能:对话科学家”、“2045请回答”
2015年年会上,百度创始人、CEO李彦宏主持了一场主题为主题为“技术、创新与可持续发展”的早餐会,嘉宾是比尔·盖茨和埃隆·马斯克。三位教父级“男神”顺便讨论了一下人工智能。
埃隆·马斯克称:
“有一些伟大的计划,尽管在做计划,但我们并不在上面附加期望。”
“我并不说是反对人工智能的进步。方向是对的,但是我们不能操之过急,不要进入到我们未知的领域。”
比尔·盖茨则表示
当人们说这(超级智能 )不是一个问题的时候,我就会想他们怎么会觉得这个挑战不够大呢?
“我们应该特别谨慎,我们可能需要更多的时间来发展人工智能。我们这个方向是对的,但我们不能操之过急,不要进入未知的领域。”
对于“AI末日论”,其它参加博鳌亚洲论坛的“技术派”是如何看(hu)待(dui)的呢?在相关分论坛上,嘉宾们进行了严肃的“头脑风暴”,一些“脑洞”就这么产生了,比如:
1、人工智能替代人类的未来还比较遥远,现阶段的客观情况是:你可以和阿尔法狗下围棋,但如果你选择同时和AI下围棋、搓麻将、下象棋和讨论恋爱,也许它会当场死机。
2、超级智能出现后会毁灭人类吗?有嘉宾表示,这种方式是不科学的,AI估计会“圈养”人类而非毁灭,因为这种方法比较经济。(AI:我只需要一个电源,麻烦人类不要干愚蠢或疯狂的事情。)
3、负责任地讲,做出一个有生命、有感情的机器人在技术上来说是不可能的。但人对人工智能却很容易产生感情。未来人机相恋的事情一定会发生。问题在于——你必须到一个承认人机结婚合法的国家找个法官证婚。
脑洞归脑洞,顶尖AI专家们的讨论还是有理有据的。以下是他们的部分观点:
微软全球资深副总裁洪小文——人工智能最终取决于人
如果人类有一天需要担心被灭掉,那一定不是人工智能。从科学的角度,不被科学家了解的东西也有价值,但我们仍然希望它可控。
我们常常把AI和人类对立。其实人可以不用AI,AI不能没有人。AI和人的关系,一个是物一个是人。未来如果有超级人工智能的话,那一定是AI(人工智能)+HI(人类智能)。
人工智能即使比人类聪明,也终究是人类的“孩子”。人类制造人工智能并非为了制造不受控制的“另一种人类”。
有的人说核子武器是最好的发明,也有人说是最坏的发明。但二战之后没有发生战争,其中有核子武器的遏制作用。所以说,人工智能到底是天使还是恶魔,最后还是取决于人。
斯坦福大学教授张首晟——人工智能没必要模仿人类的感情
人工智能重复人类进化的历史没有什么太大的必要。机器人可以超越理性,但不能超越感情。有一天大数据通过分析总结发明出超越人类认知的知识,就意味着机器人已经超越人类了。但在情感部分,机器不一定非得模仿人的感情——既无法实现,也没有必要。
现在我们担心人工智能取代人类的工作。最乐观的情况是人和人工智能齐头并进,人工智能在教育领域帮助人变得更聪明,帮助人获得新的技能,从而带来新的就业机会。
现在最需要合作的是数据和算法的之间合作,也是公司和大学的合作。这个精神就是博鳌的合作精神,我们今天开博鳌论坛就是为了把各界的人联合起来。这个领域最需要学术界企业界的对话合作并且是要深度的合作。
搜狗CEO王小川——人机结合诞生新物种
机器人怎么才算有意识?如果一个机器能够让自己稳定存在,并且能够自我复制,那它就进入了‘生命’的领地。当它出现生存本能后,会寻求生存权。
如果有一天机器人在做决策的时候,发现人变成了它决策的一种负担。如果这个时候你赋予它一种生存权,可能会威胁到人类的安全。
机器在“聪明”上,永远不能达到人脑的程度。人类在生存繁衍发展过程中,所形成的道德、情感、生死观念等,机器永远都不能具备。
还有结局是人类与AI的融合,或许会成为一个新物种。我觉得霍金的话翻译一下就是:创造一个比人有意识的AI,就是创造一个物种,这个物种还比你厉害。
Ben Goertzel——“全球大脑”将出现,AI将抢走程序猿饭碗
互联网将会成为通用人工智能(artificial general intelligence ,简称AGI)的诞生地,互联网本身将成为“全球大脑”,成为分布式人工智能的系统。
AlphaGo能够下围棋,但如果让它下另外一种棋得重新编写代码。同样,如果AlphaGo要想玩麻将的话,需要把一个特定的目的转化成通用型目的,再变成计算程序,但人类不需要程序的调整,也不需要做人脑手术,就可以玩各种新游戏。
未来肯定会出现AI工程师。机器人所做的人工智能会更好,我们可以用一个人工智能负责给另外一个机器人编程。
人工智能将为人类做很多事情,但这并不意味着人工智能会主宰星球。包括情感也是人的大脑产生的,机器会有自己的情感,但是表现形式绝对和人不一样。
科幻作家、74届雨果奖获得者 郝景芳 :AI和 人类互不干涉
未来AI会个体化,会出现一个联网性的AI。全球联网的AI控制人类很容易,但它不会消灭人类,因为这种做法太过耗能。简单的做法是控制,从这个意义上讲,它确实能够威胁人类。但我觉得它不一定会把人类怎么样。它只需要保证不断电,保证人类不伤害它。