科学家意识到，他们的研究成果即将走出实验室，走入现实生活，因此在12月10日举行的蒙特利尔人工智能峰会上，纷纷探讨起相关的道德问题：例如，如何避免比人类更聪明的电脑抢走人类的工作，带来额外的法律风险，甚至危害社会。如今，人工智能已经能够学习玩
视频游戏，帮助人类自动回复电子邮件，甚至在特定情况下驾驶汽车。已经有人开始担心，这些技术可能对人类的工作产生影响。
“我认为最大的挑战是就业。”吴恩达说，他担任首席科学家的百度上周刚刚完成无人驾驶汽车的首次路测，路程达到30公里。吴恩达认为，人工智能技术给职场带来的变化意味着有很多人都将在20到50岁之间接受前所未有的重新培训。
“毫无疑问，如今的某些工作已经可以自动完成，这在以前是不可能实现的。”麻省理工学院经济学家埃里克·布吕诺尔夫松（Erik Brynjolfsson）说。例如，从事电子取证任务的初级律师，或者在自助结账超市里的人类助手。
“你希望这种经济环境里能够出现一些新岗位。”他说，“企业家和管理者用自动化技术取代了一些现有的工作，但他们创造新工作时的创造力却没有那么强。”
Facebook人工智能研究总监伊恩·勒坤（Yann LeCun）并没有那么担忧。他表示，我们的社会之前成功适应了各种变化。“这只是科技进步的又一个阶段。”他说，“这并不容易，但我们肯定能应对。”
随着越来越多的人工智能技术脱离人类独自决策，今后还将产生一些法律方面的困惑。“在法律流程中，有时候很难让算法扮演主要角色。”渥太华大学法学院伦理、法律和科学研究中心主任伊恩·克尔（Ian Kerr）说，“我认为这是一个艰巨的挑战。”
还有人的眼光放得更远，试图分析具备超人能力的人工智能所处产生的影响。谷歌去年收购了DeepMind人工智能公司，这是一家专注于基础研究的企业，他们的目标是开发比人类更聪明的机器。该公司联合创始人戴密斯·哈萨比斯（Demis Hassabis）将此描述为人工智能领域的阿波罗计划。
“我不想预测我们何时能够做到。”DeepMind另外一名联合创始人谢恩·莱格（Shane Legg），“事先预防比事后应对要好。”
“我不认为最终的世界只是让机器人服务员给你端茶倒水这么简单。”牛津大学学者、《超级智能：方法、危险、策略》一书的作者尼克·博斯特罗姆（Nick Bostrom）说，“最终的结果或许与我们今天熟悉的世界大不相同。”
剑桥大学存在性危机研究中心研究员沙哈·阿文（Shahar Avin）表示，在人工智能研究领域，目前就来探讨如何预防邪恶人工智能还有些为时尚早。
“我们希望有一个代理人，但又不希望这个代理人修改自己的价值体系。”阿文说。但如何实现这一点却有待解答。随着资金的增多和讨论的增加，将有更多研究人员加入到这一领域中，研究如何增强人工智能的安全性。
作为特斯拉和SpaceX两家公司的创始人，伊隆·马斯克（Elon Musk）和其他科技大亨曾经在12月11日宣布成立OpenAI，这家非营利性研究组织将以尽可能开放的形式研究新型人工智能技术的潜力。
马斯克表示，倘若超级智能不可避免，最好的办法就是公开开发进程，并鼓励人们思考它所带来的后果。他成立了“未来生活学会”（Future of Life Institute），这是一家致力于探索各种新技术对人类构成的危险的组织，其中也包括人工智能技术。
但吴恩达认为，所谓的“邪恶人工智能”或许并没有抓住要点，真正值得担忧的是视野问题。勒坤也表示，人工智能可以给人类带来福音。
“人类都有求生的本能。”他说，“机器的智能完全不同，它没有那些令人类互相迫害的动机。”
加拿大总督大卫·约翰斯顿（David Johnston）也在多伦多的另外一场活动中发表了评论，提到了一些令人担忧的问题。
“我们越来越感觉机器学习和人工智能可能很快就会涌现。到那时候，它们肯定会对生活产生重大影响。”他说，“那么，我们究竟能发挥什么作用？又该如何充分发挥这项技术的潜力，尽量减少它的挑战呢？”
