“AI春晚”英偉達放大招:亮算力“殺器”、助遊戲“捏人” 黃仁勳幫算账:GPU多
1年前



2023年05月29日 19:11

 

來源: 財聯社

【“AI春晚”英偉達放大招:亮算力“殺器”、助遊戲“捏人” 黃仁勳幫算账:GPU多买多省】前腳才交出亮眼業績狂拉股價,英偉達CEO黃仁勳後腳就在今日的COMPUTEX大會上宣布,“我們已到達生成式AI引爆點。從此,全世界的每個角落,都會有計算需求。”如今英偉達掌握着全球多家科技公司“算力命脈”,而在這場大會上,黃仁勳激情演講2個小時,甩出了多項重磅新發布,包括算力“殺器”DGX GH200超級計算機、針對遊戲的ACE代工服務、MGX服務器規範等內容。


K圖 NVDA_0

 

  “AI熱潮”最大贏家之一、英偉達背後的那個身穿黑色皮衣的男人又來了。

  前腳才交出亮眼業績狂拉股價,英偉達CEO黃仁勳後腳就在今日的COMPUTEX大會上宣布,“我們已到達生成式AI引爆點。從此,全世界的每個角落,都會有計算需求。”

  如今英偉達掌握着全球多家科技公司“算力命脈”,而在這場大會上,黃仁勳激情演講2個小時,甩出了多項重磅新發布,包括算力“殺器”DGX GH200超級計算機、針對遊戲的ACE代工服務、MGX服務器規範等內容。

  算力“殺器”:DGX GH200超級計算機+GH200超級芯片

  先看“集成了英偉達最先進加速計算和網絡技術”的DGX GH200人工智能超級計算機

  這款超算專爲大規模生成式AI的負載所設計,由256塊GH200超級芯片組成,擁有1 exaflop超凡AI性能、144TB內存(是英偉達目前DGX A100系統的近500倍)、150英裏光纖、2000多個風扇。

  DGX GH200重達40000磅(約合18143千克),堪比四只成年大象的體重。

  預計DGX GH200將於今年年底投入問世,英偉達暫未公布價格,而谷歌雲、Meta與微軟將是首批用戶

  同時,英偉達也正在打造自家基於DGX GH200的大型AI超級計算機NVIDIA Helios,以支持其研究和开發團隊的工作。其中採用4個DGX GH200系統、1024顆Grace Hopper超級芯片,每個都將與英偉達Quantum-2 InfiniBand網絡連接,帶寬高達400Gb/s,將於今年年底上线。

  值得一提的是,黃仁勳透露,DGX GH200集成的GH200 Grace Hopper超級芯片已進入全面生產

  “拉踩”CPU:成本、功耗、處理數據量不如GPU

  在本次大會上,黃仁勳還“拉踩”了一波CPU。他從功耗、處理數據量等方面,指出使用GPU勝過CPU。

  舉例來說,花費1000萬美元,可以建設一個有960顆CPU的數據中心,其可處理1X LMM(大語言模型)數據量,需要11GWh功耗;

  同樣成本下,也可以建設一個有48個GPU的數據中心,其可處理44X LLM數據量,僅需要3.2GWh功耗。

  若只想處理1X LMM數據量,則只需40萬美元,便可擁有一個搭載2個GPU、功耗僅0.13GWh的數據中心。

  “买越多,省越多(The more you buy, the more you save)。”黃仁勳再次表示。

  同時,他也列出了數據中心成本公式:數據中心總持有成本=f[成本(芯片、系統、硬件生態系統)、量(GPU、Algo軟件、網絡、系統軟件、軟件生態系統)、使用率(Algo Lib, 軟件生態系統)、採購運營、生命周期最佳化、電力]

  ACE代工服務:用AI激活NPC生命

  遊戲一直是備受關注的一大AI應用落地領域。英偉達也在大會上宣布,推出面向遊戲的定制AI模型代工服務NVIDIA Avatar Cloud Engine(ACE)

  它能賦予非玩家角色(NPC)更智能且不斷進化的對話技能,中間件、工具和遊戲开發者可使用它來構建和部署定制的語音、對話和動畫AI模型

  其中包括:英偉達NeMo,使用專有數據構建、定制和部署語言模型;英偉達Riva,用於自動語音識別和文本轉語音實現實時語音對話;英偉達Omniverse Audio2Face,用於即時創建遊戲角色表情動畫,以匹配任何語音軌道。

  开發人員可選擇集成整個NVIDIA ACE for Games解決方案,也可僅使用需要的組件。

  新參考工作流程:幫助建設數字化智能工廠

  黃仁勳表示,全球電子制造商正在使用一種全新的綜合參考工作流程推進工業數字化工作,該工作流程結合了英偉達用於生成式AI、3D協作、仿真和自主機器的技術,包括:

  英偉達Omniverse,其連接了頂級計算機輔助設計應用以及生成式AI的API和前沿框架;用於模擬和測試機器人的英偉達Isaac Sim應用程序;英偉達Metropolis視覺AI框架,用於自動光學檢測。

  同時,黃仁勳現場展示了一個完全數字化的智能工廠的演示。

  目前富士康工業互聯網、宜鼎國際、和碩、廣達和緯創正在使用這一參考工作流程,具體用例包括電路板質保檢測點自動化、光學檢測自動化、建設虛擬工廠、模擬協作機器人、構建及運營數字孿生等。

  MGX服務器規範:快速高效構建百余種服務器配置

  英偉達發布NVIDIA MGX服務器規範,爲系統制造商提供模塊化參考架構,滿足各種規模的數據中心需求。系統制造商可使用它快速且經濟高效地構建100多種服務器配置,以適應廣泛的AI、HPC及NVIDIA Omniverse應用。

  MGX支持英偉達全系列GPU、CPU、DPU和網絡適配器、各種x86、完整軟件堆棧及Arm處理器,還可集成到雲和企業數據中心中。

  華碩、和碩、QCT、超微(Supermicro)等都將採用MGX構建下一代加速計算機,可將开發成本削減多達3/4,並將开發時間縮短2/3至僅需6個月

  其中,QCT和超微基於MGX的設計將於8月面世。超微今日公布的ARS-221GL-NR系統將採用Grace CPU,而QCT的S74G-2U系統將採用Grace Hopper。

  推出Spectrum-X網絡平台構建超大規模生成式AI超級計算機Israel-1

  另外,黃仁勳宣布推出NVIDIA Spectrum-X網絡平台,旨在提高基於以太網的AI雲的性能和效率。

  相比傳統以太網結構,Spectrum-X可實現1.7倍的整體AI性能和能效提升,並具有高度通用性,可用於各種AI應用。它使用完全基於標准的以太網,並可與基於以太網的堆棧互操作。該平台支持256個200Gb/s端口,通過單個交換機連接,或在兩層leaf-spine拓撲中提供16000個端口,以支持AI雲增長和擴展,在保持性能的同時最大限度減少網絡延遲。

  全球領先雲計算提供商正在採用Spectrum-X平台擴展生成式AI服務,而Spectrum-X、Spectrum-4交換機、BlueField-3 DPU等已在戴爾、聯想等系統制造商處提供。

  此外,作爲Spectrum-X參考設計的藍圖和測試平台,英偉達正構建一台超大規模生成式AI超級計算機Israel-1。這台AI超算價值數億美元,將採用戴爾PowerEdge XE9680服務器、英偉達HGX H100超級計算平台、內置BlueField-3 DPU和Spectrum-4交換機的Spectrum-X平台。

  結語

  “40年來,我們創造了PC、互聯網、移動、雲,現在是人工智能時代。你會創造什么?不管是什么,都要像我們一樣追趕它。要奔跑,不要走。要么爲了食物奔跑,要么作爲食物奔跑。”

  在5月27日的台灣大學發表了畢業典禮演講上,黃仁勳再次強調了掌握AI技術的重要性:很多人擔心,AI會搶走自己的工作。但真正會搶走你飯碗的,是掌握了AI技術的人。

  他表示,從各方面來看,AI的興盛是計算機產業的再生契機。在下個十年,我們的產業將使用新型AI電腦,取代價值萬億美元的傳統電腦。

  而從今日大會上黃仁勳的展示中,人工智能時代的未來輪廓似乎已逐漸浮現。

追加內容

本文作者可以追加內容哦 !

鄭重聲明:本文版權歸原作者所有,轉載文章僅為傳播信息之目的,不構成任何投資建議,如有侵權行為,請第一時間聯絡我們修改或刪除,多謝。



標題:“AI春晚”英偉達放大招:亮算力“殺器”、助遊戲“捏人” 黃仁勳幫算账:GPU多

地址:https://www.breakthing.com/post/62915.html