中國大陸唯一的CPU高速連接器公司,得潤不到一年後的今天,英特爾推出“中國特供”
1年前
中國大陸唯一的CPU高速連接器公司,得潤不到一年後的今天,英特爾推出“中國特供”的 AI 芯片Habana Gaudi2。
據悉,第二代Gaudi2 AI深度學習夾層卡HL-225B專爲數據中心實現大規模橫向擴展而設計,HL-225B處理器符合美國工業與安全局(BIS)有關規定。該夾層卡符合OCP OAM1.1(开放計算平台之开放加速器模塊)規範。而HL-225B夾層卡內置Gaudi HL-2080處理器技術,擁有24個完全可編程的第四代張量處理器核心(TPC)。這些核心原生設計能爲廣泛的深度學習工作負載加速。另外,英特爾Habana的SynapseAI軟件套件,針對Gaudi平台深度學習業務進行了優化。
相比第一代,Gaudi2制造工藝由台積電16nm升級到台積電7nm,內存和緩存提高到96GB HBM2e和48MB SRAM,內存帶寬升爲2.4TB/s,並集成了專用媒體處理器。在ResNet-50模型測試中,Gaudi2比一代訓練量提高了3倍,BERT模型的訓練量提高了4.7倍。目前,單個Gaudi 2在ResNet-50模型中可達到非常穩定的5800個圖像/每秒的量。
測試GPT-3方面,Gaudi2也表現出了強勁性能,在384個加速器上訓練時間達311分鐘,從256個加速器到384個加速器實現了近线性95%的擴展;Hugging Face評估中,Gaudi2運行Stable Diffusion、70億以及1760億參數BLOOMz模型時,AI 推理方面的表現在行業內保持領先,從而使英特爾Gaudi2成爲僅有的兩個提交GPT-3 LLM訓練性能結果的芯片解決方案之一。
更重要的是,相比英偉達AI芯片,英特爾Gaudi2擁有性價比優勢,能夠降低大模型算力成本。目前,單獨購买一顆Gaudi2 AI OCP 加速器模塊 (OAM)的成本爲7400美元-8000美元之間。這種顯着的成本優勢,加上英偉達A100/H800在國內供應緊張持續短缺,或使Gaudi2成爲英偉達NVIDIA H100最重要的替代品。
電子機會獲得。英特爾產業鏈布局。得潤電子。
追加內容

本文作者可以追加內容哦 !

鄭重聲明:本文版權歸原作者所有,轉載文章僅為傳播信息之目的,不構成任何投資建議,如有侵權行為,請第一時間聯絡我們修改或刪除,多謝。



標題:中國大陸唯一的CPU高速連接器公司,得潤不到一年後的今天,英特爾推出“中國特供”

地址:https://www.breakthing.com/post/77674.html