成本降低12倍!英偉達升級版大模型芯片明年投產黃仁勳:AIGC時代來了澎湃新聞1
1年前

$雲天勵飛-U(SH688343)$  

成本降低12倍!英偉達升級版大模型芯片明年投產 黃仁勳:AIGC時代來了

澎湃新聞1小時前
7評論

K圖 NVDA_0

熱點切換太快?Level-2揭祕主力動向>>

美國AI(人工智能)芯片巨頭英偉達發布數據中心領域重磅芯片,劍指競爭對手AMD。

當地時間8月8日,英偉達(NVDA.US)CEO黃仁勳身穿經典皮衣,在計算機圖形學頂會SIGGRAPH 2023現場發布新一代GH200 Grace Hopper超級芯片,並宣布將在2024年第二季度投入生產。GH200專爲人工智能大模型設計,用於擴展全球的數據中心。

黃仁勳表示,生成式AI(AIGC)時代來臨,英偉達將繼續大力推動生成式AI發展的決心。

《華爾街日報》指出,這是英偉達對於AI數據中心芯片市場最大競爭對手AMD的“反擊”,英偉達此前就已經預告將發布與AMD的Insight MI300X CPU + GPU對打的產品,後者是今年6月AMD剛剛發布的大模型專用芯片。

GH200超級芯片將於明年投入生產,較H100更強

GH200全球首發採用HBM3e高帶寬內存,與英偉達目前最高端的AI芯片H100使用同樣的GPU,但不同之處在於,GH200將同時配備高達141G的內存和72核ARM中央處理器,每秒5TB帶寬。和現有Grace Hopper型號相比,最新版本的GH200超級芯片能夠提供3.5倍以上的內存容量和3倍以上的帶寬。和H100相比,GH200超級芯片的內存增加了1.7倍,帶寬增加了1.5倍。全新一代的GH200預計明年二季度开始生產。

黃仁勳表示,一台服務器可以同時裝載兩個GH200超級芯片,大型語言模型的推理成本將會大幅降低。

據介紹,投資800萬美元Grace Hopper,就相當於8800個價值1億美元的x86 GPU,意味着成本降低12倍,能耗降低20倍。

GH200專爲加速計算和生成式AI時代而打造,以鞏固英偉達在AI界的主導地位,應對其老對手AMD於6月推出的數據中心APU(加速處理器)Instinct MI300系列的更新。

更厲害的地方在於,在內存和運算能力得到大幅度提升的基礎上,GH200超級芯片還可以基於NVLink技術繼續拓展互連,讓GPU有能力訪問全部的CPU內存,幫助客戶減少機器數量並更快地完成工作。爲了突出產品的這一特性,黃仁勳在演講中屢次幽默地重復自己的口頭禪:“你买得越多,就省得越多(The more you buy, the more you save)。”

“任何人都可以成爲程序員”

在本次演講中,生成式AI成爲了被黃仁勳掛在嘴邊的一大關鍵詞。他在演講中展示了圖像和AI之間的不可分割性,表示AI既能夠在虛擬世界中學習,也能夠幫助搭建虛擬世界。

“大型語言模型是一個新的計算平台……人類就是新的編程語言,我們已經使計算機科學民主化,現在任何人都可以成爲程序員,”黃仁勳在會議上說道,“時隔15年左右,終於有新的計算平台出現了,計算機本身必然會以截然不同的方式處理信息。”

美國科技媒體TechCrunch評價道,作爲一款最新的、專門面向數據中心的AI开發硬件,在性價比高且耗能低的GH200即將推出的當下,再花費數百萬美元爲CPU機架等上一代計算資源進行投資研發將成爲一種愚蠢的行爲。雖然黃仁勳並未在演講中提及AI目前面臨的許多挑战、監管乃至概念上的變化,但他爲觀衆展現了一個屬於AI的積極前景。

英偉達的工作站GPU(圖形處理芯片)系列也借本次發布會全面上新,一口氣推出了4款新品:RTX 6000、RTX 5000、RTX 4500和RTX 4000。其中,性能最強的RTX 6000具有48GB的顯存,18176個CUDA核心,568個Tensor核心,142個RT核心,和高達960GB/s的帶寬。

針對企業客戶,英偉達還爲RTX 6000推出了最新的一站式解決方案RTX工作站。新的RTX工作站由英偉達和BOXX、戴爾科技、惠普和聯想合作推出,支持最多4張RTX 6000 GPU,可以在15小時內完成8.6億token(文本中的最小單位,一個單詞或一個標點符號)的GPT3-40B的微調。

第三方开發者平台接入AI超算服務

對於开發者而言,英偉達將發布的全新統一工作空間是一個值得關注的話題。該空間被命名爲NVIDIA AI Workbench,能夠爲开發者提供一個統一、易用的工作空間,使他們有能力在個人電腦或工作站上快速創建、測試和微調生成式 AI 模型,然後將這些模型擴展到幾乎所有數據中心、公有雲或 DGX Cloud。

OpenUSD的开發也是本次演講中的重點內容。就在本次演講一周前的8月1日,美國3D內容行業的5家主要公司蘋果、英偉達、皮克斯、Adobe和Autodesk聯合成立了OpenUSD聯盟(AOUSD)。OpenUSD技術是英偉達Omniverse平台的基礎,可能會成爲未來“元宇宙”的3D圖形標准。

黃仁勳在演講中宣布了英偉達 Omniverse 平台的重要更新,將爲开發者、企業和行業帶來新的基礎應用和服務,使他們能夠使用OpenUSD 框架和生成式AI優化改進3D流程。

另外,英偉達將發布四款全新Omniverse Cloud API,包括RunUSD、ChatUSD、 DeepSearch 和 USD-GDN Publisher,使开發者能夠更加流暢地實施和部署 OpenUSD流程和應用。

合作夥伴方面,英偉達正在與人工智能初創公司Hugging Face展开合作,將支持Hugging Face名爲“作爲服務的聚類訓練(Training Cluster as a Service)”的項目,簡化企業創建新生成式AI模型的過程,這也意味着开發人員可以在Hugging Face平台上直接使用英偉達的超算服務。

5月25日,英偉達發布截至4月30日的2024財年第一季度財報,收入爲71.9億美元,高於市場預期的65.2億美元,與上年同期的82.88億美元相比下降13%,與上一財季的60.51億美元相比增長19%。

Wind數據顯示,英偉達2023年迄今的漲幅達到205.71%。或許是受到美股大盤集體走弱影響,英偉達美東時間8月8日股價低开低走,收跌1.66%,報446.64美元,總市值1.10萬億美元。英偉達將於太平洋時間8月23日(北京時間8月24日凌晨)發布截至2023年7月30日的2024財年第二財季財報。

熱點切換太快?Level-2揭祕主力動向>>

文章來源:澎湃新聞

原標題:成本降低12倍!英偉達升級版大模型芯片明年投產,黃仁勳:AIGC時代來了。


鄭重聲明:東方財富發布此內容旨在傳播更多信息,與本站立場無關,不構成投資建議。據此操作,風險自擔。

追加內容

本文作者可以追加內容哦 !

鄭重聲明:本文版權歸原作者所有,轉載文章僅為傳播信息之目的,不構成任何投資建議,如有侵權行為,請第一時間聯絡我們修改或刪除,多謝。



標題:成本降低12倍!英偉達升級版大模型芯片明年投產黃仁勳:AIGC時代來了澎湃新聞1

地址:https://www.breakthing.com/post/86700.html