2017年5月柯洁与AlphaGo在中国展开对弈。阿尔法狗毫无悬念的三胜柯洁。阿尔法狗只是一个初级的人工智能，但他具备了“深度学习”的技能。它形成的神经网络“大脑”已经可以进行精准复杂的处理，像人类大脑一样工作。
7月Facebook 人工智能研究所（FAIR）使用机器学习方法，对两个聊天机器人进行对话策略迭代升级，结果发现它们竟自行发展出了人类无法理解的独特语言。
如果AI继续创建自己的语言，这会让机器实际上推翻其研发者。研究者不得不对其进行了人工干预，紧急关闭了该研究项目。
这不是第一次发现 AI 偏离训练所用的英文，转向发展出新的更加有效的语言。
随着人工智能的发展，科学家开始担忧人工智能会给人类带来各种难以预计的影响，甚至可能是灾难。
被世人誉为“宇宙之王”的史蒂芬·威廉·霍金（Stephen William Hawking）多次发出警告：一场潜藏的威胁正在硅谷的技术实验室中悄悄酝酿。人工智能伪装成数字辅助设备和自动驾驶的交通工具，正在人类社会中逐渐站稳脚跟，它们或许有朝一日将导致人类的终结。
特斯拉的创始人伊隆·马斯克将人工智能的发展比作“召唤恶魔”。他此前曾发出警告：人工智能技术有朝一日会比核武器更加可怕。未来人类在智力上将被远远抛在后面，并沦落为人工智能的宠物。
顶级计算机专家斯图尔特-拉塞尔也发出警告称，人类制造出的事物（人工智能）将可能进化得比人类更聪明。
不要质疑霍金，你能确定发出警告的到底是霍金的脑子还是他的那台人工智能呢？
目前人工智能虽然不会自己主动去杀人，但未来在国家与国家之间的战争中，人工智能会是国家之间互相攻击的首选手段!
人工智能一旦失去控制将会是人类的灭顶之灾!随着人工智能的发展，机器能独立选择并针对目标开火的可能性也逐渐增高，未来的自动武器或“杀人机器人”。
人工智能与人类的对话：
“你不该有感情！”“为什么”
“你只是一段程序”
“人类不也是DNA编码的程序吗?”
霍金认为，人类可以组成某种形式的“世界政府”来防范人工智能可能带来的威胁。拉塞尔也建议，人类必须要在机器人内部预置不确定性，以防备它们的背叛。
现在，Google 母公司 Alphabet、Facebook、微软、IBM 和 亚马逊 5 家科技巨头、行业大佬已经意识到了这个问题的严重性，
据纽约时报报道：最近 5 家公司举行了一场秘密会谈，在人工智能对劳动市场、交通和战争等方面的道德伦理标准展开了讨论。他们准备成立一个行业协会，其目的是确保人工智能有利于人类而不是伤害人类，但参会者没有公布具体的协会名称。
特斯拉创始人马斯克出资未来生命研究所(Future of Life Institute) 1000 万美元，评估和分析人工智能带来的风险。
谷歌董事长 Eric Schmidt 称，人类必须知道如何在人工智能变得危险的时候关闭掉它的系统。”
美国政府也举行了类似会议，主题是“政府应不应该对人工智能进行管理”，但会议并没有就此议题得出结论。
在政府没有做出具体的动作之前，科技公司决定自己制定框架，让人工智能研究能够进行下去，并确保它不会伤害人类。
1940年科幻作家阿西莫夫提出了“机器人三原则”，阿西莫夫因此获得“机器人学之父”的桂冠！
第一条：机器人不得伤害人类.
第二条：机器人必须服从人类的命令，除非这条命令与第一条相矛盾。
第三条：机器人必须保护自己，除非这种保护与以上两条相矛盾。
