微軟推出了全新的 ND H100v5 虛擬機系列，該系列配備了最新的 NVIDIA H100Tensor Core GPU 和 NVIDIA Quantum-2InfiniBand 網絡。這款虛擬機具有 AI 超級計算 GPU、新一代 CPU、低延遲網絡、優化主機到 GPU 的性能以及大規模的內存和內存帶寬等特性，能夠提供無與倫比的計算能力。使用新的 8 位 FP8 浮點數據類型進行矩陣乘法操作時，速度提升了六倍，比前一代的 FP16 更快。ND H100v5VM 幫助大型語言模型（如 BLOOM175B 端到端模型）實現了最高兩倍的推理速度提升，驗證了它們進一步優化 AI 應用的潛力。ND H100v5VM 虛擬機系列具有以下特性：AI 超級計算 GPU，配備了八個 NVIDIA H100Tensor Core GPU；新一代計算機處理單元（CPU），採用第四代 Intel Xeon Scalable 處理器；低延遲網絡，採用 NVIDIA Quantum-2ConnectX-7InfiniBand；優化主機到 GPU 的性能，通過 PCIe Gen5 提供每個 GPU64GB/s 的帶寬；大規模的內存和內存帶寬，採用 DDR5 內存。