广告
资讯首页 > 互联网+ > 微软推出 ND H100 v5 虚拟机：采用英伟达 H100 GPU，满足企业 ChatGPT 生成式 AI 需求

微软推出 ND H100 v5 虚拟机：采用英伟达 H100 GPU，满足企业 ChatGPT 生成式 AI 需求

发布时间:2023-03-14 11:59

微软于今天宣布加强和英伟达的合作，将 GPU 从此前的 A100 升级到 H100，推出专门针对人工智能开发的全新的 ND H100 v5 虚拟机。

1-1678766362.jpg

微软表示该虚拟机主要面向需要整合或开发人工智能的企业，附该虚拟机配置如下：

  • 8 块英伟达 H100 Tensor Core GPU，通过下一代 NVSwitch 和 NVLink 4.0 互连

  • 在非阻塞（non-blocking）的胖树（Fat-Tree）架构网络下，每块 GPU 的 NVIDIA Quantum-2 CX7 InfiniBand 性能可以达到 400 Gb / s，每台虚拟机可以达到 3.2Tb / s。

  • 通过 NVSwitch 和 NVLink 4.0，每台虚拟机内的 8 个本地 GPU 之间的对分带宽为 3.6TB / s。

  • 采用英特尔第 4 代 Xeon Scalable 处理器

  • 使用 PCIe Gen5 连接 GPU，每个 GPU 带宽为 64GB / s

  • 16 通道 4800MHz DDR5 DIMM

微软先前在 Azure OpenAI 服务中宣布了 ChatGPT 相关服务，而本次虚拟机是该服务的补充，它允许第三方通过 Azure 访问聊天机器人技术。


上一篇： 微软 Outlook 安卓 / iOS 版将支持邮件“延迟发送”功能

下一篇： 特斯联携手科知中心：打造数智转型“德阳新模式”

免费试用30+款云服务产品 即刻开始您的上云之旅
免费试用