霍金在剑桥大学利弗休姆未来智能研究中心(Leverhulme Centre for the Future of Intelligence,以下简称“CFI”)的成立仪式上发表了演讲。虽然他缓和了对人工智能的态度,但并没有改变基本观点。霍金之的态度所以稍微有所缓和,可能是源自这个研究中心的使命。CFI的工作并不是开发人工智能技术,而是评估人工智能对人类文明产生的影响,从而对由此产生的好处和威胁提前做出应对,并就相应的公共政策提出建议。
以下为霍金当天的演讲全文:很高兴今天能够参加这座新的研究中心的成立仪式。我们花了很多时间研究历史,但不得不承认,人类的历史多半是一部愚蠢史。所以很高兴人们转而把研究方向转向了智能的未来。
智能是人类之所以成为人类的关键因素。人类文明的一切成就都是人类智能的产物:从学习取火和种植食物到理解宇宙,无一例外。
我相信,生物大脑与电脑所能达到的成就并没有本质的差异。因此,从理论上讲,电脑可以模拟人类智能,甚至可以超越人类。
人工智能研究目前的进展很快。从无人驾驶汽车到电脑在围棋中战胜人类顶尖选手,这一系列标志性事件都预示着未来的走向。海量资金正在涌入这一领域,与今后几十年的进步相比,如今的成就必然相形见绌。
人工智能的潜在利益十分巨大。当我们本身的思维都要靠人工智能来扩充时,我们就无法预测未来的成就。凭借着这场新的科技革命带来的工具,我们或许能够挽回上一场工业化革命给自然界带来的破坏。我们也希望最终消除疾病和贫困。我们生活的方方面面都将改变。简而言之,成功创造人工智能将成为人类文明史上最重大的事件。
然而,这也有可能成为最后一个重大事件——除非我们学会如何规避风险。除了各种好处外,人工智能还将带来危险,包括强大的自动化武器,或者帮助少数人欺压普通大众的方法。这将对我们的经济造成巨大破坏。人工智能未来还将发展出自己的意志——这种意志将与人类的意志产生冲突。
简而言之,对人类而言,强大的人工智能技术的崛起可谓“不成功,则成仁”,但究竟是“成功”还是“成仁”,目前还不清楚。正因如此,我与其他几个人在2014年呼吁对这一领域展开更多研究。我很高兴有人听从了我的建议!
这个中心所开展的研究对于我们的文明和我们这个物种的未来至关重要。我真心祝福你们!