去年，来自安全公司 ZeroFOX 的两位数据科学家进行了一次实验，看看谁更好地让 Twitter 用户点击恶意链接，人类或人工智能。研究人员教导人工智能研究社交网络用户的行为，然后设计并实施自己的网络钓鱼诱饵。在测试中，AI 比人类竞争对手强大得多，制造并分发了比人类更多的网络钓鱼推文，成功率也大大提高。
这个名为 SNAP_R 的 AI 以每分钟 6.75 条推文的速度向 800 多名用户发送了模拟的钓鱼诈骗推文，吸引到 275 位受害者。相比之下，参加实验的人类实验者只能每分钟发出 1.075 条推文，只吸引了 49 位用户。
虽然这只是一个实验，但它也证明 AI 已经可以用来进行恶意攻击。事实上，黑客可能已经在使用 AI 来进行这种攻击了。今年 7 月份，在 2017 年美国黑帽安全大会上，数百名领先的网络安全专家聚集在拉斯维加斯，讨论这个问题和新兴技术带来的其他隐患。在接力调查期间举行的巡回调查中，有与会者被问及在未来一年内黑客是否会使用 AI 进行攻击，62％的受访者表示肯定。
数据安全科学家 Brian Wallace 受访时说：「黑客一直在使用人工智能作为武器，因为这是非常有意义的，因为黑客有规模的问题，试图尽可能多的攻击，尽可能多的目标，同时尽量减少对自己的风险。特别是人工智能和机器学习，是他们最终使用的完美工具。「他说，这些工具可以决定要攻击的人，攻击者，何时攻击等等。
被忽视的 AI 技术发展
1997 年深蓝电脑对战国际象棋冠军获胜
一个有趣的事实是，随着技术的进步，我们对它的观念也随之变化。例如，几个世纪以前，如果你说由一个叫做计算器的东西计算速度可能会比人类快几百万倍，这肯定被认为是天方夜谭，但是今天很少有人会将计算器视为特别的事情。
同样，在国际象棋中赢得胜利的能力曾经被认为是人类智力的高标准，但自 1997 年 Deep Blue 击败加里·卡斯帕罗夫以来，这种认知技能已经失去了前所未有的光彩。所以，随着 AI 的每一次突破，机器智能和神经网络这样的现代工具是人造智能的一种形式也在变得平凡。
今天，机器学习、自然语言处理，神经网络等技术的快速发展降低了我们对什么构成 AI 的看法。几年来，人工助理（如 Siri 或 Alexa），自驾车和疾病诊断算法开始被视作理所当然的，并且很多人开始觉得这样的 AI 其实也没有多大力量。
但不要误会，如果我们忽视工具或忽视这些工具的力量，我们可能会被那些渴望利用 AI 潜力的人蒙蔽，黑客包括在内。
黑客的邪恶意图
黑客利用 AI 将更容易破解私人数据，造成安全隐患
AI 或许没有电影中想象的那么邪恶，但是在错误的人手中，他们同样会变成可怕的工具。
移动安全初创公司 Zighra 的创始人兼首席执行官 Deepak Dutt 表示，在不久的将来，复杂的人工智能将被用于网络攻击的可能性很高，而且它可能已经被俄罗斯、东欧等国家使用家。关于 AI 如何以恶劣的方式使用，Dutt 认为人们并不缺乏创意。
「人工智能可用于挖掘大量公共领域和社交网络数据，以提取出生日期、性别、位置电话号码、邮箱地址等个人身份信息，可用于黑客入侵个人账户，」Dutt 告诉记者。「它还可以用于自动监控电子邮件和短信，并为社会工程攻击创建个性化的网络钓鱼邮件网络钓鱼诈骗是非法尝试从不知情的用户获取敏感信息。AI 可以更容易地突变恶意软件、更智能地搜索并挖掘和利用系统中的漏洞。
Dutt 怀疑 AI 已经被用于网络攻击，而且这些罪犯已经在使用某种机器学习功能，例如通过自动创建个性化的网络钓鱼电子邮件。
「但是，新的机器学习技术，如深度学习，AI 可以用来实现我刚才提到的更高水平的准确性和效率的情况，但新的是什么。」他说。深度学习也称为分层学习，是利用大型神经网络的机器学习的子领域。它已经应用于计算机视觉，语音识别，社交网络过滤等诸多复杂任务，往往产生优于人类专家的成果。
「此外，大量社交网络和公共数据集（Big Data）的可用性也有所帮助。先进的机器学习和深度学习技术和工具现在可以在开源平台上轻松获得 - 这与相对便宜的计算基础设施相结合，有效地使得网络攻击更加复杂。
《未来犯罪：人人相关人人脆弱的时代我们能做什么》一书的作者古德曼认为越来越多的网络攻击都将自动化。人类黑客锁定单一目标的情况是非常少的，现在更常见的方法是使用 AI 和机器学习的工具自动化攻击 - 从脚本分布式拒绝服务（DDoS）攻击到勒索软件、犯罪聊天室等的一切。
AI 可以以超越任何个人黑客的速度和复杂程度生产复杂且高度针对性的脚本。尽管如此，这些可能性似乎几乎是无止境的。除了已经描述的犯罪活动之外，这些技术还可以用来针对弱势群体，进行快速攻击，开发智能恶意软件等。
Recorded Future 首席技术官 StaffanTruvé 认为，随着 AI 成熟，黑客将开始使用它来提高攻击的性能，同时也降低成本。
要避免 AI 被坏人利用，还得依靠 AI 发展
AI ON AI 可能才是正确的解决方案
幸运的是，对于潜在的黑客风险，安全专业人员有一个相当有力和明显的对策，那就是人工智能本身。
麻烦的是，和黑客之间的较量一定是一场竞赛。两方都没有选择，因为唯一的对抗方式就是越来越依赖 AI。「一旦你开始对付敌手，你别无选择，只能自己使用武器化的 AI。」，华莱士认为。为了保持领先地位，华莱士建议安全公司进行自己的内部研究，并开发自己的武器化 AI 来战斗并测试他们的防御。
事实上，美国国防部研究机构 DARPA 已经采用了这种方法，并组织了大量的挑战，AI 开发人员在捕捉旗帜的虚拟游戏中将他们的作品相互对方。这个过程和达尔文的自然进化理论非常相似，于黑客和信息技术专业人士来说，通过对抗技术能生成最合适的技术。
「我们将不再需要」使用越来越多的 AI「从欺诈检测到打击网络攻击」。事实上，几个初创企业已经在与 IBM 沃森合作打击网络威胁，防病毒公司利用 AI 将异常检测作为一种自动的方法。比如，Truvé 正在使用 AI 技术来进行自然语言处理，比如利用自动检测何时什么时候可能会发生攻击，并预测未来的威胁。
利用 AI 的黑客将采用更有效的方式进行攻击，其危害远远超过传统的网络攻击手段。因此现在开发的基于 AI 的防御机制在很大程度上也可能用于基于 AI 的攻击。信息科技团队不断监测黑客的网络攻击活动，并从中学习，不断通过监督和无监督的基于学习的防御策略的组合进行创新，以便在第一个标志上发现和阻止攻击，在任何战争中，采取更为积极的进攻防御策略可能是更好的选择。
