BreezeML于2022年4月成立于美国洛杉矶。由共同创始人加州大学洛杉矶分校(UCLA)的Harry Xu(徐国庆)教授以及普林斯顿大学n的Ravi Netravali教授创办,其带领研发团队将多年积累的软件系统及云计算研发经验融入BreezeML的产品当中,BreezeML聚焦“AI绿色计算”,通过云计算底层软件栈的革命性更新来极大地提高现有云上计算资源的利用率,降低AI使用成本。
具体来说,云上有各种资源,有原本就高质量但是昂贵的资源,也有低质量、不可靠、不适用AI的云资源,而BreezeML提供的云计算底层软件栈的架构,能让低质量的资源变成能为AI用户服务的云资源。对于AI用户来说,其云开销能从原来的100美元一小时,降低到40美元一小时,云提供商的GPU利用率能增加到2~3倍。
“一石二鸟”产品结果,会给BreezeML带来两类客户:AI公司和云计算厂商。徐国庆告诉36氪,目前他们的客户策略是,与美国的AI公司合作,与中国的云计算厂商合作。这样选择的原因是,美国的AI技术发展快于中国,因此AI公司对于降低成本的需求更迫切、客户也更多;美国的云计算厂商有非常成熟的“partner”体系,所以给云计算大厂提供服务的创业公司,很容易变成“供应商”,利润变薄、话语权变低。另一个重要的点是,云计算服务中的中间件技术,天然有着“全球化”的优势,而创始团队中国人+美国人的配置,让BreezeML同时开拓中美两国市场这方面具备了极强的优势。
而之所以会在AI绿色计算方面进行研究、创业,跟创始团队的洞察有关。徐国庆等人在之前做一个AI相关的研究项目,光是云厂商(AWS或者Google Cloud)就要给接近十万美金。可想而知,作为AI公司,尤其是没有自己服务器的中小AI公司,其AI产品的模型-训练-测试-修改等等环节不断反复,有可能会产生上百万美元的云服务开销。
而如今,AI已经渗透进每一个人的生活中,越来越多的AI公司出现并产生降低成本的诉求。据Forbes 2021年的报道,全球AI云的市场规模已经超过150亿美金,并且以每年40%的幅度增长。随着AI的
应用进入到工控、制药、金融等各个领域,未来的五年中势必有更多的中小型企业需要使用AI,从而不得不承受由AI而来的巨大经济压力。
同时,云计算厂商也有提升资源效率的诉求。云计算业务天然存在着潮汐算力带来的碎片资源问题,如何利用好碎片资源,提高云计算使用效率,是全球云计算厂商都在考虑的问题。目前,全球性的经济低迷、供应链短缺、以及地缘政治所造成的算力缺乏,必然会导致无论是公有云的提供商还是私有云的拥有者都无法继续通过加大购买计算(CPU或者GPU)资源来满足AI应用日益增长的算力要求。
所以,全球范围内对于AI绿色计算的需求也越来越强,硬件层面,如高通、英伟达等也在做AI绿色计算的创新,软件层面,全球各大云厂商也在进行相关的突破。
徐国庆告诉36氪,未来的确有可能面对来自全球云厂商的竞争。但是目前来看,虽然BreezeML今年才成立,但是创始团队十余人已经在这个方向上研究了四五年,已经形成了技术上的先发优势。
在先发优势的基础上,产品上,第三方创业公司天然有跨云服务的优势,这也是云计算大厂不可能具备的。不同的云厂商有不同特色,比如AWS、Google Cloud等有自己的硬件,而Oracle没有硬件优势但是其云服务跟数据库业务紧密结合。BreezeML产品不与服务器硬件紧密结合,但是可以灵活管理不同硬件,用户可以不用修改任何代码地将数据和应用搬到不同的云服务器上。“我们是在异构计算方面很先进的公司。”徐国庆表示。
这些优势也让BreezeML在成立后的短短几个月之内,已经与全球数十家知名云厂商和AI客户建立合作。
徐国庆以目前某全球知名互联网公司为例,解释其服务、合作逻辑。该公司云计算业务主要为搜索引擎业务服务,而搜索引擎业务在白天对云资源消耗较大,在晚上、周末等时间对云资源消耗较少,这样的潮汐算力带来了很多碎片资源。该互联网公司想把其碎片资源利用起来,售卖给中小型公司。BreezeML把该互联网公司的碎片资源包装起来,打包成一个接口,让给中小型AI公司使用。
未来,BreezeML不会满足于只给云资源做优化、配适,毕竟如上文所说,给云计算厂商服务容易受制于人,因此BreezeML想要向更上层前进——提供MLOps(机器学习操作)服务,基于AI公司在测试-修改环节多次反复的痛点,BreezeML想给AI公司提供自动化AI测试服务,推动AI应用的一键式上云及部署。
这也是BreezeML本轮融资的用途之一。另外,本轮融资其他用途有:拓展全球业务范围,加快与全球各大云供应商以及AI企业的深度合作;推广基于异构资源的机器学习框架。
BreezeML CEO徐国庆教授表示:“BreezeML以我们在UCLA和普林斯顿大学数十年研究为起点,通过云软件栈和AI计算框架的联合优化,为AI企业提供廉价可靠的上云方案。在新的一年里,我们期待与超过50家的云提供商,AI平台运营商,以及在各个领域使用AI的中小型企业建立合作伙伴关系,从而进一步降低AI的使用门槛和部署开销”。