报道称,这个新模型内部代号为“MAI-1”,由前谷歌 AI 领导人 Mustafa Suleyman 带队负责。在 Mustafa 进入微软之前,他曾担任初创公司 Inflection 的 CEO,直到今年 3 月微软支付 6.5 亿美元(IT之家备注:当前约 46.87 亿元人民币)购买该公司产权并雇佣大部分员工。
图源 Pixabay
微软的“MAI-1”可能会基于 Inflection 的训练数据与其他技术,而据两名知情的微软员工透露,微软的这个新模型与 Inflection 公司原有的模型 Pi 是两个不同项目。
相关人士爆料称,MAI-1 的规模“远大于”微软此前训练过的任何小型开源模型,意味着它将需要更强算力及训练数据,同时也会具备更高的成本。MAI-1 将有约 5000 亿个参数或设置,用户可调整它们来确定模型在训练时学习的内容。作为对比,GPT-4 有超过 1 万亿个参数,me
ta 和 Mistral 等公司发布的小型开源模型则有 700 亿个参数。