科学家一直试图让人工智能学习人类的认知推理能力，进而学习理解人类的意图，并执行人类真正在意的价值需求，但目前广泛
应用的人工智能系统只能机械地按照人类给定的任务行事。“如果一个任务的目标可以被清晰地描述出来，那么让人工智能理解任务背后的价值需求并不困难。”论文共同作者、北京通用人工智能研究院研究员郑子隆解释说，生活中充满大量很难定义目标的任务，例如，一杯咖啡在不同人心中意味着不同的饮料，当人类用户对人工智能说“我要一杯咖啡”时，需要人工智能搞清楚究竟要的是什么咖啡，也就是与人类“对齐价值”。
北京通用人工智能研究院教授朱松纯团队提出了一种基于即时双向价值对齐模型的可解释人工智能系统，并展示了机器人如何与人类用户通过实时沟通完成一系列复杂的人机协作任务。
在该系统中，一组机器人可通过与人类实时沟通来快速推断用户的价值目标，同时通过“解释”将其决策过程传达给用户，让用户了解机器人作出判断的价值依据。此外，该系统通过推测人类用户的内在价值偏好，可生成更容易理解的解释。
