这个话题由数字朋克作家和网络安全专家尼克·凯利、eSkin研发专家乔什·巴普蒂斯特以及畅销科幻小说《千年战争》作者乔·霍尔德曼共同主持。在一小时的研讨过程中，参会者讨论的内容涉及量子计算、机器人技术、黑客技术、以及感知智能的伦理问题。
以下是本次研讨的一些节选
人工智能的起源：早期人工智能和象征性推理
乔·霍尔德曼从他在大学所学的课程谈起，与大家分享了他与人工智能和象征性推理的经历，这些课程涵盖了哲学、数学和计算机科学。“在你们还没出生之前，我就开始研究人工智能了，”他开玩笑地说。
他描述了编写真值表和学习准代数逻辑的方法，这使他能够理解早期计算机的“思维过程”。他说：“我对符号逻辑有绝对信心，而我对自然语言就没有这种信心。我不会说它不会说谎，但当它说谎时，你能通过谎言拼凑出真相。”对霍尔德曼来说，编写真值表时有一点十分关键：“我十分清楚如何在一个准代数系统中把真相梳理出来，这让我感受到力量。”
感知智能和量子计算
据乔什·巴普蒂斯特所说，人工智能有两个方面：自治智能，它允许程序在没有人类参与的情况下执行代码，而感知智能则是自主并有独立意识的人工智能。根据巴普蒂斯特的说法，“真正的感知智能必定包括量子计算机。”
他举了一个著名的例子来解释了传统计算机和量子计算机之间的区别：如果你有一幅关于山丘和山谷的三维图像，并将其简化为像素，那么传统计算机就必须对每一个像素进行观察，以确定最低的点，而量子计算机则会查看整个图像，并几乎在瞬间给出答案。
量子计算机的神奇力量在于量子位，它类似于所有计算机中常见的位元，除了1和0的状态，量子位可以存在于1和2的状态中，或者两者都不存在。
这种额外的维度允许计算能力超越当前的极限，从而为人工智能掌握诸如自我意识这样的先进功能提供了可能性。
入侵物联网
根据小组成员尼克·凯利的说法，与地球上的人相比，互联网所连接的设备明显更多。然而，在科技史上的绝大部分时间里，主流的理念是先引入新设备，然后再把它们抛到脑后，或者用凯利的话说，“先把它们拿出来看看，然后再把它们锁起来。”
从冰箱、可穿戴设备到私人机器人，数以百计的新型联网“智能”设备正进入我们的视野。但近年来，黑客控制这些设备的可能性也在呈几何级数增长。
在小组讨论中，凯利提到了一个真实案例：黑客可以通过大厅里鱼缸里的温度控制程序，侵入赌场内联网的老虎机。他们之所以能够成功，是因为该赌场的联网设备没有被“隔离”，这意味着一旦黑客控制了某一台设备，他们就可以获得连接该网络其他设备的控制权。
作为思科的一名网络安全专家，凯利对于人工智能失控情况的见解稍有不同。他描述了思科正在探索的一项新举措，即训练公司网络，使其能识别对用户构成风险的网站，然后在达到某个阈值后拒绝访问这些网站。与之类似，如果黑客试图侵入网络，思科的安全程序可以从以往的黑客攻击中吸取教训，并自动避免类似攻击。
这种系统的危险来自于自动系统完全失控，类似于著名的“回形针最大化”思想实验：一个系统被训练以达到最大的安全性和效率，最终可能会决定人类的控制或行动不够安全或有效，从而导致系统采取行动阻止人类干扰或使用它。
凯利引用了最近Facebook聊天机器人AI被关闭的例子，说明当我们失去对人工智能的控制后会发生什么：在试图学习用英语交流之后，Facebook聊天机器人AI决定，它将创造自己独有的、更高效的语言，而人类很难理解这种语言。当研究人员意识到它在做什么时，他们很快关闭了AI机器人。
科幻小说与人工智能的前景
即使量子计算机技术日趋成熟，人工智能距离成为Skynet那样复杂的系统仍有很长的路要走。据乔什·巴普蒂斯特称，洛克希德公司的量子计算部门最近购买了几台D-Wave量子计算机，公司的一名员工告诉巴普蒂斯特：“如果你知道我们能用这些机器做出什么来，请一定要告诉我。”
“关于人工智能，还有很多未知之处，”乔·霍尔德曼说，“这加剧了人们对人工智能的担忧。这是一种非理性的恐惧，它在数学和科学上有一定的基础。人们的这种恐惧可以追溯到很久以前，只不过套上了一层新的外壳。这是对未知的恐惧。”
至于我们离实现科幻小说中描述的人工智能到底有多近，以及我们是否需要担心受到自动机器人的黑暗统治，霍尔德曼很好地总结了这一点：“这个问题既无法估量，又充满虚构色彩。这倒可以当作一个不错的小说开头。这些都是已经存在的问题，而人又是什么？他的运算极限又在哪里呢？”
