热搜: 佳士科技irobot开云电竞官网下载app机器人ABB机器人产业联盟发那科库卡码垛机器人机械手

比尔盖茨反对马斯克 AI 威胁论:现在担心为时过早,人类仍可控制 AI

日期:2017-09-26 来源:36氪 作者:dc136 评论:0
  特斯拉 CEO 埃隆·马斯克(Elon Musk)在推特发表了许多可怕的 “AI 威胁论”,预言 AI 在未来会统治人类,危险性超过了朝鲜核危机。对于这种 “AI 威胁论”,微软创始人比尔·盖茨和微软CEO 萨提亚·纳德拉(Satya Nadella)都表示不同意,认为该观点过于极端、悲观,忽视了人作为 AI 创造者的主动性和控制权。本文译自VentureBeat。
比尔盖茨反对马斯克 AI 威胁论:现在担心为时过早,人类仍可控制 AI
  比尔·盖茨:担心 AI 毁灭人类,为时尚早
  这是我与马斯克观点不一致的一点。马斯克担忧 AI 会毁灭人类,但实际上,该担心这个的时候还远远未到。我们不应该对此感到恐慌,但同时也不应该过度乐观,不能忽略它的可能性。
  ——微软创始人比尔·盖茨
  现阶段,我们对于 AI 的核心原则应该是:如何提高人类的能力?就算 AI 自我学习系统做出的决定,也有许多是人类可以把控的。因此,人类可以确保这种系统不出现偏见性或不良的数据。与其担心'AI 会控制人类',倒不如行动起来,我们可以通过许多方法来改变未来。控制是一种选择,我应该努力保持这种控制。
  ——微软 CEO 萨提亚·纳德拉
  VentureBeat 撰稿人 John Brandon 也同意上述观点,认为 AI 基本上只都会听人的指示来行动。
  John 表示,许多 AI 工程师和 机器人专家都认为,编好程序的 AI 不太可能会做出格的事情:它们不会突然无视代码,然后就“黑化”,把你家的车开进湖里。代码很“听话”,因为人类没有“交代”的任务,它绝对不会执行。这是由人类主控的道德准则。《终结者》不过是好莱坞的幻想。
  对 AI 应保持适当的警惕
  不过,John 也提醒大家,我们仍然不能对 AI 放松警惕。
  AI 与人类一个很大的差别,在于人类会受到“持续注意力” (sustained attention)的影响,同一时间只能思考一件事情,无法“一心两用”。但是 AI 却可以同时思考 100 件事情,一旦触发了指令,AI 可能会引发一连串动作,比如:智能车库一旦被语音触发,就有可能在开门的同时,开灯、开启家里的供暖系统、还有可能把家里的炉子打着,从而构成潜在危险。
更多> 相关开云电子链接
0 相关评论

推荐图文
推荐开云电子链接
点击排行
Baidu
map