如果它控制你的汽车，你的飞机，你的心脏起搏器，你的自动交易，人工智能系统做你想要它做的事情变得更加重要系统或您的电网，另一个短期挑战是防止在致命的自主武器中进行毁灭性的军备竞赛。
与目标保持一致
从长远来看，一个重要的问题就是，如果追求强大的AI成功并且AI系统在所有认知任务中变得比人类更好，会发生什么，设计更智能的AI系统本身就是一项认知任务，这样的系统可能会经历递归的自我改善，引发智能爆炸，使人类的智力远远落后，通过发明革命性的新技术，这种超级智能可以帮助我们 消除战争，疾病和贫困，因此创建强大的人工智能可能是人类历史上最大的事件，除非我们在成为超级智能之前学会将人工智能的目标与我们的目标保持一致。
并无本质差异
每当谈到人工智能这个问题，答案就分两个极端，要么同质、无趣、世俗，要么天马行空，外行高呼震撼，内行斥其没有常识，无人能预知命运会陷入如此险境，短短几年，AI市场的低气压不知何时开始盘旋成型，商业化变现困境剥落了AI的优越，让AI企业直面最粗糙的生死，一直都有“AI做不了颠覆式创新，还是要走产业+AI的路”这句话虽是业内共识，但走这路的方法论其实是过时的，毕竟，这与十几年前的信息化和IT软件商业路径，并无本质差异。
利润也非常可观
在全球权威的人脸识别算法测试中，XX企业获得XX赛道冠军，XX在国际权威机构ACM MM主办的大赛中，行为识别再夺一冠，识别率提升、精度突破、榜单排行，是早期AI界的主旋律，这段时期，中国的AI公司上演一场疯狂的刷榜竞赛，让算法识别俨然间成了一项竞技体育，在早期AI公司的蓝图里，他们只需研发出标准化的模块，然后被集成在所有公司的各个解决方案里，如此，哪怕一个开发包（SDK）只卖几万、几十万，薄利多销，一年的利润也非常可观。
而且作为被集成的软件，所得几乎均为净利润，说躺平赚钱也不为过，这一意识形成后，很多公司将比拼算法精度作为头等大事，甚至一度认为，不需要招销售，客户自然会闻讯榜单而来。
