图源Pexels
一位接近英伟达的人士称,字节跳动目前已经到货和没到货的A100与H800加速卡总计有10万块。其中H800今年3月才开始投产。据晚点透露,仅字节跳动一家公司今年的订单可能已接近英伟达去年在中国销售的商用GPU总和。
一名字节人士透露,字节在2020年6月GPT-3发布后曾借助V100计算卡训练过一个数十亿参数的生成式语言大模型,但由于参数规模有限,这个模型生成能力一般,字节当时看不到它的商业化可能性故不了了之。
另一位阿里云人士表示阿里也曾在2018-2019年积极采购GPU,当时阿里的采购量至少达到上万块规模,包括V100和T4计算卡,其中约十分之一送到了达摩院用作AI技术研发,这也用在了2021年发布的万亿参数大模型M6中。
消息人士提到,字节、阿里等大公司主要是和英伟达直接谈采购,因为代理商和二手市场难以满足其庞大需求,而英伟达会按目录价,根据采购规模给出一定的折扣。
目前一块A100在英伟达官网的标价为1万美元(IT之家备注:当前约71500元人民币),H100为3.6万美元(当前约25.7万元人民币),而去年面向中国市场推出的A800和H800则略低一些,但由于供不应求等原因肯定会导致成交价更高。