最近,“AI绘画有多离谱”相关话题火上热搜。比如,明明是喜庆的结婚照,被AI绘画软件加工后,剩下了新娘一人;少女和狗的合影中,作为主角的少女被AI绘画理解成了“狗”。这些生成结果的“翻车”叫人哭笑不得。不过,如果AI在医疗、自动驾驶等其他领域“翻车”,则会产生严重问题。如何从底层构建更稳定的AI?
11月30日下午,7位来自阿里巴巴、清华大学、上海交大等公司和高校的90后和00后研究者,分享了他们在对抗学习、贝叶斯深度学习、异常检测、鲁棒评估、噪声学习、鲁棒动态图学习、偏微分方程求解等方向上发表的研究成果,共同探讨如何打造更加安全可靠的智能技术。这些研究成果均被AI顶会NeurIPS收录。
毛潇锋是阿里巴巴人工智能治理与可持续发展研究中心(AAIG)的一名算法工程师。进入公司以来,他最重要的工作就是研究如何通过对抗训练来增强AI的鲁棒性。这些研究能力被
应用在非常接地气的直播和
图片内容审核中。在实际应用中,直播摄像头的光线变化、商品的快速晃动等因素都会对抗AI对违规商品的识别。如果AI识别的稳定性难以保障,漏过违规商品,最终受损的还是消费者。
《利用离散对抗训练增强视觉表征》是毛潇锋的分享议题。“如果把图片拆成一个个像素,对某个或者多个像素点进行修改,往往可能使得AI无法识别。我所做的工作就是对AI进行对抗训练,让它不纠结于少量不引起图片本质内容的像素级别的改变,依然能认出图片表达的含义。”毛潇锋认为,将这种能力用于平台风控后,能更好守护消费者的安全。
董胤蓬是清华大学计算机系的一名95后博士后研究员,已发表30多篇顶级国际期刊和会议论文,主要专注于深度学习鲁棒性的研究。他本次的分享集中于3D世界的视角变化对AI视觉识别产生的影响。董胤蓬举例:“这项研究与自动驾驶场景密切相关。如果前车车辆发生车祸,自动驾驶车辆可能以非常不正常的视角拍摄了图片或
视频,从而影响识别和判断。我关心的是,在3D空间里,如果拍摄视角或者其他视觉条件出现变化,AI是否能正确识别从而避免车祸发生。”
00后刘松铭是清华大学的在读本科生。他试图利用物理信息机器学习方法解决结构优化等广义上的“安全”问题。
刘松铭选取了燃料电池组、飞机机翼等场景介绍。“假如我们要建模一个安全稳定可靠的电池,需要模拟电池的动态,比如它的温度或电流分布,这是一个物理问题,但我想用数学的办法探索,然后通过神经网络求解。”刘松铭希望用AI探索广义的科学问题,包括解决至关重要的安全问题,让AI研究者从交叉学科中找寻思路。
这场以AI安全为主题的分享会由阿里巴巴和清华大学主办。阿里巴巴集团科技伦理治理委员会执行主席、AAIG主任薛晖表示:“这些研究者的探索最后会反哺于实际应用,帮助集团和社会建设负责任的好科技。对安全可靠的重视和关注也是企业社会责任感的重要体现。我很高兴,越来越多的年轻研究者们不断投身于此,一起促进人工智能技术的健康发展。”