首页 关于我们 成功案例 网络营销 电商设计 新闻中心 联系方式
QQ联系
电话联系
手机联系

微软发布 Azure ND H100 v5 虚拟机,配备 8 个英伟达 H100 GPU

发布时间:2023-11-21 11:13
发布者:网络
浏览次数:

☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 免费无限量使用 DeepSeek R1 模型☜☜☜

微软发布 Azure ND H100 v5 虚拟机,配备 8 个英伟达 H100 GPU

微软 Azure AI 基础设施在11月21日迎来了升级,推出了全新的ND H100 v5虚拟机系列。这款虚拟机配备了英伟达H100 Tensor Core图形处理单元(GPU)和低延迟网络

据介绍,微软全新发布 Azure ND H100 v5 虚拟机(VM)系列,现已在美国东部和美国中南部 Azure 区域提供。

该系列产品采用了最新的英伟达 H100 Tensor Core GPU 和英伟达 Quantum-2 InfiniBand 网络,以应对日益复杂的人工智能工作负载。作为微软对人工智能领域持续深入投资的一部分,微软正在利用一个经过优化的人工智能 4K GPU 集群,并计划在明年将其扩展到数十万个全新的 GPU

我们在这个网站上整理了 ND H100 v5 VM 虚拟机系列的特性:

  • AI 超级计算 GPU:配备了八个英伟达 H100 Tensor Core GPU。比起上一代虚拟机,该系列可让 AI 模型显著提速。
  • 新一代计算机处理单元(CPU):CPU 性能对于 AI 的训练和推理至关重要,微软选择了第四代英特尔 Xeon Scalable 处理器。
  • 低延迟网络:采用英伟达 Quantum-2 ConnectX-7 InfiniBand,每个 GPU 拥有 400Gb / s、每个 VM 拥有 3.2 Tb / s 的跨节点带宽。
  • 优化主机到 GPU 的性能:通过 PCIe Gen5 提供每个 GPU 64GB/s 的带宽。
  • 大规模的内存和内存带宽:DDR5 内存是该系列虚拟机的核心,提供更高的数据传输速度和效率。

微软表示,该系列虚拟机使用新的 8 位 FP8 浮点数据类型进行矩阵乘法操作时,速度提升了六倍,比前一代的 FP16 更快。ND H100 v5 VM 帮助大型语言模型(如 BLOOM 175B 端到端模型)实现了最高两倍的推理速度提升。

以上就是微软发布 Azure ND H100 v5 虚拟机,配备 8 个英伟达 H100 GPU的详细内容,更多请关注其它相关文章!


# 微软  # Azure AI  # 将于  # 新能源  # 最好用  # 实拍  # 微软发布  # 英特尔  # 在这个  # 浮点  # 配备了  # 许昌360关键词排名  # 网站推广哪家负责  # 鹤壁官网关键词点击排名  # 清徐县集义村网站建设  # 电脑网站优化注意事项  # 临城seo优化报价  # 网站建设工作室策划  # 钻石婚恋网站建设  # seo服务公司怎样  # 深圳图文营销推广公司