英偉達AI芯片勁敵來了!AMD推出MI300X,可運行多達800億參數模型
1年前
來源:華爾街見聞(ID:wallstreetcn) 作者:李丹 韓旭陽

AMD的“終極武器”來了!

美東時間6月13日,AMD在“AMD數據中心與人工智能技術首映會”上宣布,即將推出迄今爲止最先進的人工智能GPU MI300X芯片,該芯片可以加快ChatGPT和其他聊天機器人使用的生成式人工智能的處理速度,並可以使用高達192GB的內存。

MI300X的HBM密度高達英偉達AI芯片H100的2.4倍,HBM帶寬高達H100的1.6倍,可以運行的模型比H100的更大。另外,AMD發布的其他新品已吸引硅谷巨頭:亞馬遜雲運用四代EPYC 處理器打造實例;微軟Azure推出搭載Genoa-X CPU的新實例;Meta計劃使用AMD的新雲芯片Bergamo。

相比之下,英偉達的H100芯片只支持120GB內存,市場普遍認爲這意味着英偉達在這一新興市場的主導地位或將受到挑战MI300X將於今年晚些時候开始向部分客戶發貨。

AMD CEO蘇姿豐還介紹到,MI300X可以支持400億個參數的Hugging Face AI 模型運行,並演示了讓這個LLM寫一首關於舊金山的詩。這是全球首次在單個GPU上運行這么大的模型。單個MI300X可以運行一個參數多達800億的模型。

雖然投資者期待AMD能夠在AI芯片領域與英偉達展开競爭,但分析師們並未跟風吹一波AMD的這一強大武器,而是很理智地指出,AMD想要在人工智能芯片領域挑战英偉達的行業龍頭地位,還有很長的路要走,僅憑這款芯片並不能做到。 花旗芯片分析師 Chris Danely 在最新報告中表示,AMD的MI300芯片似乎在設計上取得了巨大的勝利,但考慮到性能的局限性和失敗的歷史,他對圖形/CPU IC的可持續性表示懷疑,“雖然我們預計AMD將繼續從英特爾那裏獲得市場份額,但其新的 Genoa 產品的增長速度似乎比預期的要慢”。 當日,Cambrian-AI Research LLC 創始人兼首席分析師 Karl Freund 也在福布斯上發文表示,雖然AMD新推出的這款芯片激起了市場各方的巨大興趣,但與英偉達的H100芯片相比,MI300X面臨着一些挑战,主要有以下四個方面:

第一,英偉達的H100今天开始全面出貨;到目前爲止,英偉達仍擁有AI行業最大的軟件和研究人員生態系統。 第二,雖然MI300X芯片提供了192GB內存,但英偉達在這一點上將很快迎頭趕上,甚至在相同的時間框架內可能實現反超,所以這並不是一個很大的優勢。並且 MI300X 的售價將會十分高昂,與英偉達的H100相比不會有明顯的成本優勢。 第三才是真正的關鍵:MI300沒有像H100那樣的Transformer Engine(一個用於在英偉達GPU上加速Transformer模型的庫),H100可以將大語言模型(LLM)的性能提高兩倍。如果用幾千個(英偉達的)GPU來訓練一個新模型需要一年的時間,那么用AMD的硬件來訓練可能需要再等2-3年,或者投入3倍的GPU來解決問題。 最後,AMD還尚未披露任何基准測試。但是訓練和運行LLM時的性能取決於系統設計和GPU,所以很期待今年晚些時候能夠看到一些與同業競爭對手的比較。
不過,Freund 也補充稱,MI300X可能會成爲英偉達GH200 Grace Hopper超級芯片的替代選擇。像OpenAI和微軟這樣的公司需要有這樣的替代品,雖然他懷疑AMD會給這些公司一個無法拒絕的報價,但AMD不會從英偉達那裏搶走很多市場份額。 今年以來,AMD的股價已經上漲了94%,昨日美股收跌3.61%,而同行英偉達則收漲3.90%,市值首次收於1萬億美元關口上方。

事實上,英偉達的領先地位不僅來自於其芯片,還來自於十多年來爲人工智能研究人員提供的軟件工具。Moor Insights & Strategy 分析師 Anshel Sag 表示:“即使AMD在硬件性能方面具有競爭力,但人們仍然不相信其軟件解決方案能與英偉達競爭。” 有望帶動科技企業的良性競爭 美國科技類評論家 Billy Duberstein 12日指出,隨着ChatGPT的火熱,AI似乎开闢了新的領域,在許多行業的領先公司之間展开了一場競賽,爭相奪取市場份額。無論英偉達還是AMD贏得了這場競賽,每家科技公司都會從中受益。 Duberstein 表示,潛在客戶對MI300非常感興趣。他引用《數字時報》6月8日的一篇文章稱,數據中心客戶正在強烈要求尋找英偉達的替代產品。目前英偉達在人工智能GPU這個高利潤、高增長的市場佔據主導地位,在AI服務器領域佔據60%至70%的市場份額。 Duberstein 接着指出,鑑於目前英偉達H100的服務器價格高昂,數據中心運營商希望看到英偉達有一個第三方競爭對手,這有助於降低AI芯片的價格。因此,這對AMD來說是一個巨大的優勢,對英偉達來說則是一個挑战。這能爲每個市場參與者帶來良好的盈利能力。 上個月,摩根士丹利分析師 Joseph Moore 調整了他對AMD人工智能收入的預期,稱其可能比最初預期的高出“數倍”。 中國企業競逐GPU AI產業鏈有望持續從中受益 目前全球各大科技企業都在爭奪AI入場券。相比海外巨頭,中國大科技公司採購GPU更爲急迫。 據《晚點 LatePost》了解,今年春節後,擁有雲計算業務的中國各互聯網大公司都向英偉達下了大單。字節今年向英偉達訂購了超過10億美元的 GPU,另一家大公司的訂單也至少超過10億元人民幣。而且僅字節一家公司今年的訂單可能已接近英偉達去年在中國銷售的商用GPU總和。 國金證券對AMD的新動作表示繼續看好AI產業鏈。該機構認爲,生成式AI的持續火爆,帶動了AI芯片的強勁需求,英偉達二季度數據中心業務指引大超預期,台積電4nm、5nm、7nm產能利用率提升明顯,都是最好的證明。

國金證券指出,根據產業鏈調研,光模塊-DSP芯片龍頭廠商表示AI相關業務未來有望快速增長;CPU/GPU均熱片龍頭公司表示AI GPU二、三季度環比大幅增長。服務器PCIe Retimer芯片龍頭公司表示三季度需求加速,逐季向上。因此看好2024-2025年AI新品的拉貨,AI產業鏈有望持續從中受益。


追加內容

本文作者可以追加內容哦 !

鄭重聲明:本文版權歸原作者所有,轉載文章僅為傳播信息之目的,不構成任何投資建議,如有侵權行為,請第一時間聯絡我們修改或刪除,多謝。



標題:英偉達AI芯片勁敵來了!AMD推出MI300X,可運行多達800億參數模型

地址:https://www.breakthing.com/post/68209.html