近日，来自机器学习、计算机视觉、自然语言处理，以及在生物医疗、金融、推荐系统等应用领域的12位著名专家联合创作的《可解释人工智能导论》一书正式出版，全面介绍了可解释AI在理论上和应用上的发展现状、存在的问题以及今后发展的方向。微众银行首席人工智能官杨强教授与人工智能首席科学家范力欣博士作为主要作者参与了此书的撰写。
据了解，基于在金融领域的实践，微众银行已经在智能服务、智能营销、联邦学习等方面获得一系列成果。参与撰写《可解释人工智能导论》体现了微众银行在发展可信、可解释、负责任的人工智能方面的探索。
据了解，针对隐私计算和联邦学习所面临的安全、效率、性能之间的平衡问题，近期杨强教授带领微众银行AI团队持续丰富和拓展联邦学习的理论，提出了“可信联邦学习”概念。“可信联邦学习”以隐私保护、模型性能、算法效率为核心的三角基石，以模型的决策可解释性和可监管性为两大支柱，共同构成了更加安全可信的联邦学习。
在“可信联邦学习”理论框架下，杨强教授及团队提出了隐私与模型性能的"No-free-lunch安全-收益恒定"定律，利用该定律可实现可信联邦学习的安全、性能、效率三者的协调，在实现更高质量的隐私保护的同时，既不牺牲数据安全保护，也不致使模型性能和学习效率的大幅下降。有效运用该定律能够量化分析隐私计算各种技术保护方案的优劣，进一步优化隐私保护算法设计。目前相关论文已被国际顶级学术期刊接收。
杨强教授表示：“数据安全、隐私保护与可解释性应当与模型性能、算法效率并重，在金融应用场景中尤为重要。未来，微众银行将持续深入在相关领域的探索和研究，持续推动可信、可解释、负责任的AI应用。”
