在演讲中，Stuart Russell先生澄清了一些AI方面的误解，指出它是一个典型的、深度学习的架构，并指出AI对金融领域的影响。以下是Stuart Russell先生演讲精选。非常感谢大家邀请我来到这里，非常荣幸，这也是我第一次来到上海。我的女儿在上海住过一年，她很喜欢这个城市，我也非常高兴来到上海。首先也要澄清一些AI方面的误解，AI并不是有感知的机器，并不是我们要担心机器突然醒来憎恨人类，这些AI，并不一定都是深度学习的。大数据，也是我们经常见到的词，但是很多时候AI并不是和这些概念相关。另外，它并不是万能药，并不是所有的问题可以用人工智能来做，很多问题我们不能理解，我们应该怎么做、怎么理解怎么做、怎么解决，但是AI的进程，在未来我们非常乐观，来帮助我们解决。比如在英国、欧洲，有很多的银行现在都在设计人工智能的APP。目前也做了很多研究，AI怎么对人们提供服务，已经发展了很多，但依然还有很长的路，AI可以继续发展，为人们提供更好的服务。从金融方面的经典方式，没有模型经典方式的机器来做。你在电脑里面收集一些已知来源的数据，比如个人的信用卡交易结果，他们是否归还了信用卡欠款？还是违约了？我们把这些信息收集之后，创建一个预测的分类器。对于新的用户来说，收集他们的数据，预测他们是否会违约，以及基于他们过往的交易，决定给他们多少额度。这也是基于电脑的决策树、深度神经网等技术来实行。一旦建立了分类器，客户有新的事件你就可以来
应用了。相比人类的专家来说，我们认为AI非常有价值，可以以非常低的成本做出预测，这是一个典型的、深度学习的架构。在座的各位可能对公司分析来说，都会知道一些基本内容。中石油，你想对它的股票进行分析，你看它的基本面、看它的交易、市场、相关风险等等，你要预测他们的财务结果。利用AI，对于个人也可以进行分析。非常重要的就是多少人可以被模型使用。我们可以对每个人进行分析，收集他们生命周期的静态变量，他们的生日、教育、婚姻、子女、工作、住所等，这些参数和变量，可能对他们的金融行为都会有很大的影响，来帮助我们进行预测。比如他们是否会搬家，子女的教育是什么样的情况？他们还有几年才退休等等，这些人们生命事件，可以影响每个人的金融交易和他们未来的金融模式、金融行为。我们对于每个人可以建立这样的金融模型，我们也可以进行预测它的金融交易结果，来知道他们的金融交易、他们的账户、金融的流向、货币的兑换，当我们收集到这些数据的时候，我们看到这个人做了这个交易，就可以监测这些数据是否是真实的、是否是合理的。这种方式的优点，就是我们可以通过收集的数据来解释决策。我们不能提供给你这个理财产品、不可以给你提供借贷，你可以解释给他们为什么不可以这么做。另外，可以通过更少的数据，做出更精准的预测。还有就是数据的错误率、失落率也会比较低。也有劣势，基于模型的方法的，第一个是它的成本非常高，因为你要有建模的专家和实际数据当中要做很多的实验，但这是一劳永逸的。也就是说，每个人出生、去学校，他们会结婚、有子女、退休、过世，人生的事件或多或少是一样的，建立一个模型就可以一劳永逸，再用AI的软件进行分析。转换一下话题，讲一下金融行业以及AI对金融行业的影响。我们比较熟悉P2P借贷、银行的APIs，也就是第三方写软件，和银行直接进行交互、帮助银行操作他们客户的账户。一个公司A它的借口比较好，相比银行B更好，那我就要选择银行A做我的开户行。接口、界面非常重要，能够决定人们选择哪个银行为他提供服务，账本是在哪个银行的，有区块链和相关的软件，我们可以看到很多大银行就蒸发掉了，因为可能他们对个性化的服务做得并不是很好，所以在技术发展过程当中落后了。AI方面，人们会增加个人的数字助理，大家都有助理。通过手机也可以帮助你提供很多的建议。你的个人助理，可以帮你自动发起金融交易，预定酒店、买机票，确保你的孩子在学校好好学习等等，这些都会自动化来进行，也包括了金融交易的自动进行。银行的客户可能并不是真实的人，而是数字助手，触发某个事件之后就会进行金融交易。另外一个很大的变化，就是交易系统。我们知道在美国的交易所，大多数的交易都是电脑软件进行的，现在会越来越多的进行电脑软件自主交易。另外讲一下交易系统，我们有算法。有些时候比较简单，就是套利的。还有越来越复杂的，比如单个股票基础面的分析、能够自动阅读这些新闻，从彭博、SEC等接口进行股票的交易。其中我们见到的一个很大的问题，这些系统只是从字面上来收集信息。推特被认可劫持了，所以一个推特信息说“奥巴马受伤了”，机器得到这个信息，也不判断，直接就卖掉这些股票了，低于2分钟的时间，超过2万亿的股票被卖掉。如果是人做交易，他们会进行验证，会打电话给华盛顿的朋友。经过20分钟，市场又自动的恢复了之前的交易状态，这些都非常重要。机器可能只是机械化的收到信息，有些信息可能是故意造假的，机器自动读取，对系统会造成很大的扰乱、对客户造成很大的损失。从监管来说，也造成了挑战。比如亚马逊网站，一本普通的生物学的书差不多40美元。有一个出售1800万，另外一个是2300万，这是因为有两个
机器人，他们觉得这本书非常复杂，所以他们不断的把这本书的价格提升，一直提升到非常高。如果你有自动财务顾问，他们可能觉得这本书比较合理，它就会买，这会对你的账户造成很大的损失。大事件，2到3分钟，使整个的市值损失1万亿，这也是程序化不理解市场而造成的“五龙指”，非常快速进行交易，对于市场造成了很大的问题。2014年的时候，200个股票的市场下滑更快，0.1秒的时间，有些股票跌了20%，这对很多人来说发展太快了，0.1秒，当你把权利给到机器，他们不理解他们在做什么，这对你造成的损失是无法估量的。从长期来说，我们认为AI系统在很长的时间里面的发展，最终会比人类决策优化。现在，我们在做AI的时候，所有的因素都要考虑进去。一些超级的、智能的机器，最终可能会给我们带来灾难性的损失。不管是控制，还是研究，我们现在创造了一些系统，它可以帮助我们把某些事物进行优化。对于这个领域的定义，并不是非常精确的，它是一个错误的定义。我们所需要的AI是什么？这样的AI系统，我们希望它能够执行我们的命令，而且它产生的结果，一定是我们比较满意的。比如这个国王，当时有这样一个想优化的目标，但是优化之后的结果并不是他最初想要的，这是我们需要避免的现象。我们怎么样才可以避免？这里有三个想法：1、机器人只有一个任务、目标，就是把人类的幸福指数最大化。2、机器人并不知道这里面的含义是什么，因为并不确定，人类什么才是开心的事情，真正让我们开心的事情是什么？3、机器人是通过观察人们的行为来进行学习的，人们喜欢什么、不喜欢什么，会通过我们的行为展示出来。读经济学会知道有一个“博弈论”，如果我们有这样的一个博弈，如果人类知道这样的目标，机器人先把这个目标进行优化，但是机器人并不知道本来的目标是什么。如果有不匹配，是否会产生问题？总结一下，我刚才讲了很多AI在金融领域的影响，最基本的，现在已经存在了40到50年，它可以帮助我们进行数据的整合、分析、预测，还有一些顾问方面的服务。另外，我们如果可以更好的理解人类，才可以帮助我们得到更好的结果。市场上我们看到一些交易的策略，现在越来越有效了，可以帮助我们改进市场上的效率。因此，我们要非常了解，怎么才可以更好的把这些机器人在我们的控制当中，不能失控。有一个谚语“煤矿里的金丝雀”，煤矿中的金丝雀可以帮我们预测未来可能出现的问题。煤炭当中没有氧气了，金丝雀就会立马检测到，我们需要把它当做我们风险检测的工具，我们要很好的管理AI存在的风险，而且是高速管理和控制。随着AI的进步和推进，AI的系统怎么样控制、怎么样了解人们的价值，以及AI的价值，怎么把两者的价值结合起来，将是我们未来要探讨的很重要的议题，感谢各位的聆听。
