微軟正式上线最強生成式AI虛擬機,搭載8塊英偉達H100 GPU,這家公司是微軟經銷商,代銷相關產品
1年前

微軟宣布正式推出虛擬機Azure ND H100 V5 VM系列,幫助企業更高效處理生成式AI任務

一. 迄今最強大和高度可伸縮的AI虛擬機系列

ND H100 v5 VM,是Azure迄今最強大和高度可伸縮的AI虛擬機系列

該虛擬機支持的按需配置可達8至上千個通過Quantum-2 nfiniBand網絡互連的NVIDIA H100 GPU,使得AI模型的性能明顯提高。相較上一代ND A100 v4 VM,本次推出的虛擬機包含以下創新技術:

8塊NVIDIA H100 Tensor Core GPU,通過下一代NV Switch和NV Link 4.0連。在無阻塞胖樹網絡中,每GPU搭載400GD/s NVDIA Quantum-2 CX7 nfiniBand和每VM 3.2Tb /s的性能。每VM中的8塊地GPUS之間通過3.8Tb/s對分割帶寬NV Switch和NV Link 4.0互聯,第四代英特爾至強可擴展處理器。PCIE 第5代主機到GPU互連,每個GPU帶寬爲 64Gb/s16信道的4800 MHZ DDR5內存。

新的虛擬機使用NVIDIA的NVIDIA Tensor Core H100 GPU和NVIDIA Quantum-2 nfiniBand網絡,微軟補充說,公司正在努力在明年爲其虛擬機添加數十萬塊新的GPU。

二 . ND H100 v5 虛擬機具備五大設計亮點

高性能方面,該虛擬機使用了NVIDIA A100 GPU,具備卓越的A計算能力。同時,其配備的高速網絡和內存存儲系統,可保證數據的高效傳輸和快速讀寫。

大規模訓練方面,ND H100 5虛擬機支持大規模分布式訓練,可在多個節點之間進行高效的數據傳輸和協同計算。

靈活性方面,該慮擬機支持多種操作系統,包括Linux和Windows,目能夠與各種A 平和T具配合使用,例oTensorFlowPyTorch等。

安全性方面,ND H100 V5虛擬機提供了多種安全保措施,包括數據加密、訪問控制、網絡防護等,保障用戶數據和計算的安

簡便易用方面,該虛擬機提供了直觀易懂的管理工具,使用戶可以輕松地部署、管理和監控自己的A1計算任務。同時,其完善的技術支持和服務也能夠及時解決用戶問題和疑問。

三. 相關上市公司:首都在线、立方數科、龍芯中科

$首都在线(SZ300846)$積極推動泛渲染產品落地,實現了GPU的裸金屬服務,可提供從單卡到八卡多種規格的物理服務器租用服務,推出了GPU卡直通的虛擬機產品,同時,根據渲染客戶的需要,推出了行業內首個高速NAS雲盤產品,單目錄最高可達到200Gb帶寬和50萬IOPS

$立方數科(SZ300344)$技術服務收入分爲兩部分,一部分爲Azure 銷售傭金,另一部分爲公司銷售產品提供服務收入。根據微軟公司政策,服務器、虛擬機等遷移服務返還傭金比例爲5%-20%,結合公司歷史數據確定技術服務收入中Azure銷售傭金爲Azure商品銷售收入的10%

$龍芯中科(SH688047)$推出了自主指令系統LA,並基於LA汗移或研發了操作系統的核心模塊,包括內核、三大編譯器(GCC、LLVM、GOLa三大虛擬機 (Java、Javacript、NET)。瀏覽器、媒體播放器、KVM虛擬機等。形成了面向服務器、面向桌面和面向ng工控類應用的基礎版操作系統。

追加內容

本文作者可以追加內容哦 !

鄭重聲明:本文版權歸原作者所有,轉載文章僅為傳播信息之目的,不構成任何投資建議,如有侵權行為,請第一時間聯絡我們修改或刪除,多謝。



標題:微軟正式上线最強生成式AI虛擬機,搭載8塊英偉達H100 GPU,這家公司是微軟經銷商,代銷相關產品

地址:https://www.breakthing.com/post/86214.html