KEEN公司CEO王琦表示，人工智能对抗或将成为黑客的终极目标，2017年GeekPwn将人工智能作为全年的重点项目，联合NEXT IDEA（腾讯创新大赛）发起“人工智能安全挑战赛”，同时特别增设“AI仿声验声攻防赛”，去探索人工智能时代下的安全问题。
iPhone 8遭遇远程破解
在本届比赛现场，一个能够影响iPhone7等系列手机甚至刚刚上市的iPhone8和更早期型号iPhone的漏洞被首次曝光。
选手“slipper@0ops”通过利用iPhone8手机最新系统漏洞，获得手机的最高权限，实现了针对iPhone 8 的远程越狱破解，在获取手机中照片的同时，成功获得主持人黄健翔在现场写下的密码：“357912468“。
该选手具体操作方式是，用户在iPhone 8里打开黑客的链接，比如扫描二维码，用户的iPhone就能被控制，黑客通过远程控制的方式，就能看到用户iPhone手机里面的照片。
在2015年的GeekPwn赛场上，“slipper@0ops”就曾破解安卓手机的Root权限，2016年，该选手还成功将PS4破解越狱。
长期以来，封闭式和开放式的编程方式被形容为大教堂和集市两种模式。而苹果的 iOS 与安卓系统被视为两个完美代表。然而，随着这几年苹果逐渐开放权限、开源部分内核代码，破解苹果的案例开始增加。
该选手表示，此次发现的漏洞将会影响从iPhone6到iPhone8甚至更早期型号的iPhone用户。他还表示，希望能进一步研究攻破机制，再将漏洞提供给苹果公司，也同时承诺“不会利用它做坏事”。
破解笔迹
将人工智能作为攻击手段仅仅只是人类的设想吗？在本届大赛上，就用AI 颠覆了大众传统认知中的“立字为据”。
由于个人书写习惯等因素影响，笔迹具有特殊性，因此被模仿的难度相对较高。但中国金融认证中心（CFCA）团队却利用一个AI机械臂，就可以模仿中国著名科幻作家陈楸帆的字迹，达到了肉眼难以辨别的逼真程度。
在现场，选手通过构建一个深度学习“DeepWriting“，使机械臂可以在纸张上随意书写，轻松“模仿”人的笔迹，甚至可以达到笔触、线条的宽度和字母的倾斜度都难辨真假的程度。如果别有用心者利用这样的机器臂假冒他人笔迹，就可能会造成受害者的财产损失，甚至是更为严重的后果。
声音也能被模仿
除了笔迹可以被模仿，独一无二的声音也可以被复制。在“AI仿声验声攻防赛”上，看似成熟的语音识别系统在白帽黑客的挑战下，也出现了漏洞并且被攻破。
在决赛现场，五组入围队伍向四个具有声纹识别功能的设备发起挑，声音样本由腾讯自家的《王者荣耀》里的英雄人物“妲己”的配音者提供。
根据比赛规则，各位选手提前学习了妲己声音样本的声纹特征，合成语音音频，并在现场对若干语音验证系统发起攻击。最终结果是，五组选手都成功实现了对语音验证系统的突破，“欺骗”了目标系统，使其无法做出正确的判断。
“AI 仿声验声攻防赛”主评委郑方教授表示，就目前生物特征识别技术的发展来看，声纹本身因语音信号所含信息量的丰富性而是最安全的，但目前市面上所见的一些带声纹识别功能的智能语音产品，普遍对安全性考虑不够，没有防攻击技术支撑。这是被黑客攻陷的主要原因。
