英特爾在中國推定制版AI處理器,可用於大模型對標英偉達
1年前

英特爾推出針對中國市場的定制版高端AI處理器Gaudi2。7月11日,英特爾在北京召开發布會,宣布於中國市場推出深度學習處理器HabanaGaudi2,可用於加速AI訓練及推理,包括浪潮信息、新華三、超聚變等公司,預計將推出搭載Gaudi2的服務器產品。

Gaudi2已與去年於海外發布,此次針對中國市場推出定制版以滿足監管需求。據相關負責人介紹,此次發布的Gaudi2集成了24個可編程Tensor處理器核心(TPCs),配置21個(國際版爲24個)Gbps以太網接口和96GBHBM2E內存容量,具備2.1TB/秒的總內存帶寬等。在發布會上英特爾稱,採用FP8軟件的Gaudi2預計可提供比英偉達H100更高的性價比。

HabanaGaudi2作爲落地英特爾AI战略的重要產品,英特爾對其有巨大市場期望。Habana原爲以色列初創芯片公司,2016年成立,旗下產品曾滲透進入中國主要互聯網公司,2019年12月,英特爾以20億美元收購Habana。

英特爾數據中心與人工智能集團副總裁兼中國區總經理陳葆立介紹,在將Gaudi2從海外引進中國的數月中,英特爾亦針對時下大模型熱潮進行了軟件層面的迭代優化。這一努力已取得成果,在6月公布的MLCommonsMLPerfAI基准測試中,其在GPT-3模型等多個AI模型訓練中,均取得較好的訓練成果。該公司稱,與市場上其他面向大規模生成式AI和大語言模型的產品相比,Gaudi2擁有性能與性價比優勢,可幫助客戶降低成本。

AI計算大致分爲兩個層面,首先是對模型進行訓練(training);之後是訓練出的模型響應實際請求,做出推理(inference)。目前在AI訓練領域,英偉達主導的GPU仍然是統治地位。在ChatGPT引發的大模型熱潮中,大模型訓練需求增多,使得英偉達用於訓練大模型的A100/H100更加稀缺。除英特爾外,AMD、AI芯片初創公司均意圖搶佔部分市場。

面向AI計算負載,英特爾擁有CPU、GPU、FPGA、AI專用芯片等多種芯片產品。英特爾公司執行副總裁數據中心與人工智能事業部總經理SandraL.Rivera告訴界面新聞,Gaudi2作爲用於AI加速的專用處理器,是英特爾產品組合適用於大模型負載中,性能最優的產品。面向科學計算,英特爾的MAX系列GPU也有較好性能表現。

她同時表示,英特爾將會對數據中心產品路线圖進行更新,“在2025年的時候,我們會把高性能AI芯片與GPU整合,推出一個更完整的下一代的GPU產品。”

對於英特爾來說,推出中國定制版AI處理器,意味着英特爾在中國市場也在全力爭取客戶。2022年,中國區營收在英特爾總營收中佔比約爲27%。

GPU是全球數據中心處理人工智能應用的標配,佔據超九成市場份額。英偉達的A100和H100,是同類產品中的領先者,在數據中心、超算中心等應用領域扮演關鍵角色。此前Habana的Gaudi處理器已爲中國主流互聯網、雲服務廠商所熟悉,

开發者亦看重AI芯片的軟件生態。SandraL.Rivera稱,從英特爾看到,开發者通常從Pytorch、TensorFlow等AI框架層從事AI創新工作,在底層方面,英特爾採用了OneAPI(一種統一編程模型和應用程序接口)對標英偉達的CUDA,利用OneAPI提供的優化庫,希望以打包的平台方案整合自家龐雜的產品路线,降低客戶對底層硬件差異的敏感度。

在ChatGPT掀起的新一輪AI大模型浪潮中,提供底層算力的英偉達是最大的受益者,其GPU產品在大模型訓練上幾無替代品。英偉達CEO黃仁勳曾在3月舉辦的GTC大會上稱,英偉達AI超級計算機DGX就是大模型背後的引擎。

市場期待在大模型領域,具有真正的芯片競爭者,挑战英偉達市場地位。在剛結束的WAIC人工智能大會上,AI芯片初創公司燧原科技CEO趙立東即在芯片主題論壇的發言稱,長遠去看,產業界需要第二解決方案,給市場、客戶第二選擇。他認爲,創新架構和开源生態,對比現有主流方案可以促進市場化競爭,滿足市場對性價比、能效比等需求。


追加內容

本文作者可以追加內容哦 !

鄭重聲明:本文版權歸原作者所有,轉載文章僅為傳播信息之目的,不構成任何投資建議,如有侵權行為,請第一時間聯絡我們修改或刪除,多謝。



標題:英特爾在中國推定制版AI處理器,可用於大模型對標英偉達

地址:https://www.breakthing.com/post/78315.html