腾讯思享会,是由腾讯网主办、腾讯文化倾力打造的跨界思想论坛,每年夏冬举行两次。思享会坚持建设性、开放性、独立性、学术性,汇聚思想,容纳意见。与上一次思享会侧重思想文化领域不同,本次的主题关注时下科技前沿——物联网、人工智能,以及由此产生的哲学、伦理议题。
物联网是柄“双刃剑”
被称为“第三次信息技术革命”的物联网,无疑是时下的热门话题。曾着有《智慧的物联网》一书的南开大学教授吴功宜,当天围绕“从互联网到物联网:机遇or风险”进行了演讲。
在回顾了互联网和物联网的发展历程后,吴功宜指出,物联网发展的最终目的是什么?“是让人们有更多智慧”。在他看来,实现人与人、人与物、物与物的互联并非物联网的目的。最终目的是要提升人类对外界世界的全面感知、透彻认知和智慧处理的能力,催生大量具有计算、通信、控制系统的智能设备和系统。物联网的推广将加快人类迈入智能时代的步伐。但是任何事情都没有完全的利和弊。有研究表明,物联网是悬在人类头上的一把双刃剑。“现在我们对互联网的安全问题头疼得要命,将来物联网的问题更要命。”根据物联网网络安全的特性,RFID \WSN的无限信道、嵌入式系统等将成为新的攻击重点。网络攻击的动机也已经由过去的好奇心,变得趋利,甚至成为有组织的经济犯罪。
他还以诺基亚的一项移动数据研究计划为例,指出智能技术与隐私保护的矛盾。“智能数据处理的方法,智能信息服务系统和智能系统都会对人类的隐私保护产生严重的影响,而我们现在恰恰很难注意到这些问题。”
吴功宜的结论是,“物联网是高悬在人头上的双刃剑,它的安全问题是一个系统工程。”
刘德寰:最可怕的是模拟人性
提到“科学怪人”,人们常常会联想到玛丽·雪莱在《弗兰肯斯坦》一书中创造的“人造人”。当人类意识到未来有可能创造出有独立意识的生命体,关于人工智能风险的讨论就从未停止。在思享会当天的对话环节,北京大学新媒体研究院副院长、CMRA会长刘德寰就以“商业智能:科学怪人”为题发表演讲。
谈到人工智能可能带来的风险,刘德寰说,目前大规模的机器信息搜集、机器模拟认知已经开始,“更可怕的是机器决策。这件事如果有突破性进展,后果非常值得探讨。当然最可怕的是模拟人性。”
他的看法是,“如果把所有这些技术整合在一起,就不再只是技术问题,而是道德问题。就有点儿像克隆。现在克隆出一个人来没问题,但是问题在于从道德来说有巨大的风险,对人类的未来也会有非常大的风险。”
“现在可看到的最可怕的机器人是能模拟女性思维。我们知道任何一个女性都是一个大数据分析终端,男的不行。这个感觉本身如果放到机器上,大家可以想象后果是什么,好在还没有把女性研究透。”刘德寰还有一个担心:“如果我们能探讨出来人类思考的密码,类似DNA的一个东西,我估计这东西出来的时候人类就走向毁灭,因为它本身太可怕了。”
网络安全性带来的隐患也是刘德寰所担心的。“过度互联本身会带来过度风险,一旦我们的生活跟所有的东西联结在一起的时候,也就是所谓物联网的图景,那么这个网络会绑架我们的一切,带来一个整体性安全事件的可能性比较大。”而且,“过度互联会把我们与生俱来的能力给丧失,我们会被机器裹胁,很多病会增加,会带来社会成本的上升。” Wi-fi对人有什么影响?电视、冰箱这些家电有了传输能力有什么影响?这些都无法确认,是潜在的公共卫生事件。过度互联还引发了一个纯社会性话题,“你会发现现在在舆论当中能独立思考的人越来越少,判断问题都是直线思维”。而数据产业由于存储时间、难以精准预测的尴尬,使得人类未来造出的模拟人性的机器,会比较稚嫩,很难模拟一个“爱因斯坦”。“如果真的所有的机器都变成了爱因斯坦,人也就麻烦了,真的非常非常的麻烦。”
他的结论是,“发挥这个科学怪人的所有能力,让我们的生活更方便、更好。也要控制这个科学怪人的心思,因为如果不控制涉及人性的部分,风险是非常高的。”
中山大学人机互联实验室主任、哲学系教授翟振明以世界上第一个“有情感”的机器人“辣椒”为例说,有了情感就不再是简单的机器人,“过两天控告你贩卖感情、骚扰,不把我当人看,那怎么办?”
翟振明当天更多介绍的是虚拟世界和主从机器人技术,“我一动他就动”。“戴上头盔,接上电脑,人就进入一个新的世界,可以在其他地方相遇,我的实验室可以做到这一点。”在他看来,“如果把电脑换成手机,把大头盔换成小一点的,变成可穿戴设备,全世界网络功能再强大一点,就进入了电影《黑客帝国》的世界。”而这,并不是遥远的未来。
虚拟世界给人类带来的变化将是空前巨大的,“国家主权的概念,领土的概念,人在什么国家,出国的概念完全就改变了”。就比如,人在中国,机器人“替身”在美国,那么这个人出没出国?“替身”要是杀人如何定性?这里面有复杂的伦理、道德和责任主体问题。
翟振明总结说,虚拟现实对于人类生活的意义还不可知,尽管感官层次已经没问题,但如果植入芯片后,这个人还是有自由意志的人吗?
赵勇:机器人开车比人开车安全得多
在随后的第二场对话中,年轻的格灵深瞳联合创始人、CTO赵勇从技术应用方面,介绍了人工智能的最新研究进展——可以看到三维世界的深度视觉,以及人工神经网络技术等。“人工智能最底层是感知领域。”目前他所在公司的研究,可以将成果应用到银行安防监控、交通领域等。“当我们给汽车赋予了最底层的人工智能,比如视觉感知智能,我们就可以教他安全行驶或者帮助人更加安全行驶。”如果这个技术做得越来越好,有一天我们就可以把控制权完全交给汽车,让他帮我们开车。
“有研究表明,机器开车比人开车安全得多。我相信辅助驾驶两年内会出现,自主巡航可能五年,真正的自动驾驶可能要十年之后。”他为现场观众设想了这样一幅画面:“有一天你打专车,发现是汽车自己驾驶……”
展望20年以后的网络世界,赵勇说:“我想象中的因特网95%的网民不是人,而是帮你扫地的机器人,是你的汽车,是每个监控摄像头,是各种各样有自我分析能力的传感器。他们在一起跟我们交流,他们之间也相互交流,而且交流的东西并不是数据,而是想法、建议、决策。到那个时代我觉得因特网会变得特别有意思,也会有很多潜在的风险和随之而来的伦理问题。”
长期关注互联网发展的知名IT评论人谢文当天表示,当下万事万物数据化的趋势正在加速,势不可挡。这些数据原来是孤立的、片面的、破碎的,现在正在以越来越快的方式互联互接起来,比如微信。他同时也表示,“我们没有资格谈论智能社会能带来什么危害。”
机器人有没有自由意识?
短暂的休息过后,包括中国社科院农村发展研究所研究员冯兴元、中国林业大学心理系主任朱建军、图灵机器人 CEO俞志晨、北京大学心理系认知神经科学副教授毛利华以及科幻作家韩松在内的多位嘉宾,在中国信息经济学会信息社会研究所所长王俊秀的主持下,围绕“人工智能与人类未来”展开讨论。
韩松回顾了科幻文学中机器人的历史,并以电影《人工智能》为例说明,“科幻作品里对人工智能的关注,表面上看是技术的,核心的东西还是人文的。”关于机器人的讨论有以下几层:技术上讨论能否造出来,造出来之后机器人的地位是怎样的,再有就是机器人有没有自由意志。
毛利华则提出疑问,“我们所谓的智能,所谓的自我意识,很多东西并不一定像我们想象的那样靠谱或者真正存在,科学的很多证据说明这一点。那么拿什么定义智能?人和机器的区别在哪里?”对于未来他是个乐观派,“无论将来的智能社会发展到什么程度,我都不是很悲观。”
轮到朱建军发言,他向现场观众发问:“在座有机器人吗?”一片笑声中,还真有两三个人举手。他的观点是,人类和机器的核心差异就是自我意识。
王俊秀在总结这一单元时表示,“当我们这些人谈论人工智能或者智能社会的时候,事实上我们也在定义人,定义我们自己。”
当天思享会最后,由中科院自动化研究所复杂系统智能控制与管理国家重点实验室主任王飞跃做闭幕演讲。他结合自身的跨界科研经历指出,未来的智能就是平行智能,未来的技术就是平行技术,将来社会的基础一定是平行社会,而且将来会越来越好。谈到人工智能的前途,王飞跃认为,“将来的机器人,将来的智能机一定要产生出新的工作,就像计算机产生新的工种一样,就像工业社会把农民转成工人一样。只有这样,它才有未来。所以,我不信机器替换人,应该是机器度人,机器生人,机器化人。”
“我是不大相信人工智能危害人,至少近一段时期我相信它的前途在知识自动化方面。”他也大胆设想未来:每个人一生下来,除了物理空间有一个你,就有好多平行网络上的你,伴你成长。以后你没有这个“平行人”,就相当于拿着大刀红缨枪,跟枪炮对着干 。