“我只是一个突然意识到这些东西正在变得比我们更聪明的科学家,”辛顿称,“我想在某种程度上‘吹响哨子’,说我们应该认真担心如何阻止这些东西对我们的控制。”
辛顿是神经网络技术的先驱,他的研究为今天许多产品中使用的人工智能系统奠定了基础。IT之家此前曾报道,他在周一接受《纽约时报》采访时首次透露了他的离职消息,并表达了他对人工智能技术的潜在危害的担忧。他说,他担心人工智能会导致大量失业,并创造一个许多人“无法知道什么是真实的”世界。他还指出,人工智能技术的进步速度远远超出了他和其他人的预期。
“如果它变得比我们聪明得多,它就会非常擅长操纵,因为它是从我们身上学到的,而且很少有例子证明一个更聪明的东西会被一个更笨的东西控制,”辛顿周二对塔珀说,“它知道如何编程,所以它会想出办法绕过我们对它的限制。它会想出办法操纵人们做它想要的事情。”
辛顿并不是唯一一个对人工智能表示担忧的技术领袖,今年3月,一些社区成员联名发表了一封信,呼吁人工智能实验室对最强大的人工智能系统至少暂停训练六个月,理由是“对社会和人类有深刻的风险”。
苹果公司联合创始人史蒂夫・沃兹尼亚克(Steve Wozniak)也是在这封信上签名的人之一,他周二在“CNN今日早晨”节目中重申了对人工智能传播虚假信息的担忧。“对于那些想要欺骗你的人来说,欺骗将变得更容易。”沃兹尼亚克对CNN说,“我们在这方面没有做出任何改变——我们只是假设我们现有的法律会解决这个问题。”沃兹尼亚克还表示,可能需要“某种类型”的监管。
辛顿则表示,他没有签署这封请愿书。“我不认为我们能阻止这种进步,”他说,“我没有签署说我们应该停止研究人工智能的请愿书,因为如果美国人停止研究,中国人不会。”但他承认,他没有一个明确的解决方案,“我不清楚我们能否解决这个问题。我相信我们应该努力思考解决问题的方法。我目前还没有解决方案。”