百川智能此次还开源了模型训练的Check Point,并宣布将发布Baichuan 2技术报告,详细介绍Baichuan 2的训练细节,IT之家附Baichuan 2下载地址:https://github.com/baichuan-inc/Baichuan2
据百川智能官方介绍,Baichuan2-7B-base和Baichuan2-13B-base,均基于2.6万亿高质量多语言数据进行训练,两个模型在数学、代码、安全、逻辑推理、语义理解等能力有显著提升。
其中Baichuan2-13B-base相比上一代13B模型,数学能力提升49%,代码能力提升46%,安全能力提升37%,逻辑推理能力提升25%,语义理解能力提升15%。
▲图源“百川智能”公众号,下同
在MMLU、CMMLU、GSM8K等基准测试中,百川智能的两个模型都比LLaMA 2的分数要高一些,且在“中文通用”部分优势较大。
Baichuan2-7B和Baichuan2-13B不仅对学术研究完全开放,开发者也仅需邮件申请获得官方商用许可后,即可以免费商用。腾讯云、阿里云、火山方舟、华为、联发科等企业均参加了本次发布会并与百川智能达成了合作。