10月26日，由腾讯研究院华东基地、腾讯优图实验室主办的第一期“智创沪联”活动，在上海诺布中心正式举办。活动以“大模型价值对齐”为主题进行研讨，深入探寻价值对齐问题的创新性解决方案与法律伦理治理，探讨AI与人类价值间的平衡。多位来自AI领域前沿的学者、专家分享自己看法及研究成果。
人机合作走向现实，AI价值对齐不可自身
如何避免数据规模与算力不断提升的AI大模型遭到滥用、生产有害内容，已成为人工智能行业的核心议题之一。在此背景下，有效增强AI大模型安全与实用性的“AI价值对齐”也逐渐成为行业关注的焦点。
腾讯研究院秘书长张钦坤表示，价值对齐将成为AI产品的重要竞争力。因为，大模型价值对齐的实现，需要对齐技术（人类反馈强化学习、AI监督等）、训练数据干预、模型可解释、对抗测试等多种技术和治理措施的结合，同时未来还需要着重考虑如何通过更多的社会参与来形成价值对齐的共识，以及如何使监督、理解、设计AI模型的能力与模型本身的复杂性同步发展，以更好地对大模型进行有效的监督。
“我们期待的是大语言模型可以和人类的价值、真实的意图相一致，确保AI技术可以可靠和安全地服务于人，并且确保社会经济可以健康地增长。”在上海交通大学副教授刘鹏飞看来，随着生成式人工智能实用性不断增长，除了最基础的性能优化之外，价值对齐的重要性，也随着AI大模型的快速迭代迅速提升。
上海交通大学教授闫宏秀则表示，技术的发展进步，始终遵循着消除风险、力求确定性的趋势，作为应对风险的有效方式，“信任”始终是人类的必选项。没有信任，技术发展的停滞几乎是必然的。让人工智能走向可信、可控、可靠，让人机合作走向现实，“AI价值对齐”正是其中不可或缺的一环。
让AI价值对齐落地，多国用立法进行诠释
多位嘉宾在论坛活动上表示，明确了技术路径，如何将技术理论结合实际需求尽快落地，无疑是现阶段“AI价值对齐”议题的发展重点。
上海人工智能实验室治理研究中心研究员滕妍认为，想要加速“AI价值对齐”的发展，除了“基于人类反馈进行调整”之外，让人工智能部分监督，或者协调人类技术进行监督，提供一些高质量的反馈数据来提高价值对齐能力，是目前各国热度很高的研究方向之一，包括OpenAI在内都对这个领域投入过不少关注。
除了技术与伦理层面，在攸关社会现实运转的法律层面，“AI价值对齐”同样带来了全新的挑战，对此，同济大学法学院助理教授朱悦表示，虽然目前“AI价值对齐”依旧处于基础技术迭代的早期阶段，在法律层面上做出定论为时尚早，但从各国政府和跨国企业的积极性来看，通过立法对“AI价值对齐”进行诠释，并通过实践来不断完善，已经是行业的大势所趋。
圆桌讨论环节，围绕AI对齐的方法论、监管实施等话题，上海复旦大学计算机系教授肖仰华、上海交通大学副教授张拳石、对外经济贸易大学法学院副教授许可、安远AI资深研究经理方亮、蚂蚁集团全面风险管理部专家王炳浩、腾讯优图实验室高级研究员李珂、腾讯研究院高级研究员曹建峰等与会嘉宾，从不同角度出发，深入交流意见，剖析并肯定了“AI价值对齐”对人工智能行业发展的重要意义。
据介绍，本期“智创沪联——大模型价值对齐”研讨活动，由上海市人工智能行业协会、上海市数据科学重点实验室、上海人工智能实验室治理研究中心、对外经济贸易大学数字经济与法律创新研究中心协办支持。（雷渺鑫）
