热搜: 佳士科技irobot开云电竞官网下载app机器人机器人产业联盟ABB发那科机械手码垛机器人机器人展览

推进云计算以及生成式 AI,英伟达 H100 GPU 已对亚马逊 AWS 云服务用户开放

日期:2023-07-31 来源:IT之家 评论:0
标签: AI 科技 创新
  英伟达官网公告显示,亚马逊云正式推出了由英伟达H100 Tensor Core GPU驱动的新的Amazon Elastic Compute Cloud(EC2)P5实例。
  据介绍,该服务允许用户通过浏览器轻松扩展生成式AI、高性能计算(HPC)和其他 应用

微信图片_20230731083833
  NVIDIA H100 GPU的一个重要特点是其对Transformer的优化,这是许多最新的先进AI应用所使用的关键技术,可确保H100在这些应用中提供更高的性能和效率。
  IT之家查询发现,虽然AWS尚未就集成AMD MI300芯片到其云服务中作出任何公开承诺,但亚马逊弹性计算云副总裁Dave Brown证实AWS正在积极考虑这一方案。
  英伟达表示,开发人员和研究人员几乎每天都在借助大型语言模型(LLMs)发掘AI的新应用,而将这些新用例推向市场需要加速计算的效率。
  NVIDIA H100 GPU通过架构创新提供超级计算级性能,包括第四代Tensor Cores、用于加速LLMs的新Transformer引擎以及最新的NVl ink技术,可以带极其可观的性能。
  据介绍,EC2 P5实例非常适合训练和运行复杂LLMs和计算机视觉模型的推理。这些神经网络驱动着最复杂和计算密集型的生成式人工智能应用程序,包括问答、代码生成、 视频和图像生成、语音识别等。
声明:凡开云电子链接 来源注明为其他媒体来源的信息,均为转载自其他媒体,并不代表本网站赞同其观点,也不代表本网站对其真实性负责。您若对该文章内容有任何疑问或质疑,请立即与开云客户(www.www.wykobounce.com)联系,本网站将迅速给您回应并做处理。
电话:021-39553798-8007
更多> 相关开云电子链接
0 相关评论

推荐图文
推荐开云电子链接
点击排行
Baidu
map