來源:內容由半導體行業觀察編譯自theregister,謝謝。
思科緊隨人工智能網絡潮流,加入博通和英偉達的行列,推出每秒 51.2Tbit 的交換機芯片,據稱能夠匯集至少 32,000 個 GPU。
該交換機 ASIC 代號爲 G200,是在思科的 Silicon One 產品組合下开發的,面向帶寬需求大的網絡規模網絡以及更大的 AI/ML 計算集群。
該芯片本身提供的帶寬是思科舊版 G100 ASIC 的兩倍,將 112Gbit/秒串行器/解串器 (SerDes) 數量從 256 個增加到 512 個。這允許高達 64x 800Gbit/秒、128x 400Gbit/秒或 256x 200Gbit/秒的端口,具體取決於所需的應用和端口密度。
實際上,我們預計由 Cisco G200 提供支持的大部分交換機的上限爲 400Gbit/秒——這是當今 PCIe 5.0 NIC 支持的最大帶寬,並且除了聚合之外,沒有那么多應用程序可以利用首先是 800Gbit/sec 以太網。
如果您此時感覺有點似曾相識,那可能是因爲我們已經看到了 Broadcom 和 Nvidia 的類似 ASIC 和交換機,分別有他們的 Tomahawk 5 和 Spectrum-4 系列。這兩款交換機都擁有 51.2Tbit/秒的帶寬,並被定位爲大型 GPU 計算集群的 InfiniBand 網絡的替代品。
事實上,思科 G200 承諾提供許多與競爭對手網絡供應商承諾的相同的以 AI/ML 爲中心的特性和功能。這三者都承諾提供先進的擁塞管理、數據包噴射技術和鏈路故障轉移等功能。
這些功能非常重要,因爲除了 GPU 能夠使 400Gbit/sec 鏈路完全飽和之外,工作負載在這些集群之間的分布方式也使得它們對延遲和擁塞特別敏感。如果流量出現備份,GPU 可能會闲置,從而導致作業完成時間更長。
所有三個供應商都會告訴您,這些功能與融合以太網上的 RDMA (RoCE) 等功能相結合,可以使用標准以太網實現極低損耗的網絡,並進一步縮短完成時間。
“市場上顯然有多種 51.2Tbit/sec 交換機。我對這種情況的看法是,並非所有 51.2Tbit/sec 交換機都是一樣的。很多人提出主張,但很少有人兌現這些主張,”思科 Silicon One 產品线營銷負責人Rakesh Chopra告訴The Register。
雖然 Broadcom 和 Nvidia 可能已經在市場上擊敗了 Cisco,但 Chopra 認爲 G200 的關鍵區別之一是支持 512x 基數配置。無需深入討論細節,較大的基數意味着更小、更緊密的交換結構。
思科聲稱,與類似的 256x 基數交換機相比,這使得 G200 能夠擴展以支持超過 32,000 個 GPU(或大約 4,000 個節點)的集群,使用的交換機數量減少了 40%,光學器件數量減少了一半。據我們所知,這是 Broadcom 的 Tomahawk 5 的一個鏡頭,它突出了 256x 200Gbit/sec 基數,盡管它也適用於 Nvidia 的 Spectrum-4。
思科聲稱其 Silicon One G200 ASIC 可以實現更密集、更高效的網絡,如所提供的圖形所示 -
Chopra 聲稱思科能夠做到這一點,因爲 Silicon One 的技術比競爭對手的交換機“高效”得多。我們不知道效率有多高——Chopra 不會告訴我們 G200 使用了多少功率。
他確實表示,對於能夠支持 32,000 個 GPU 的網絡拓撲,與競爭產品相比,使用基於 G200 的交換機將節省近兆瓦的功耗。雖然這聽起來令人印象深刻,但您可能不會注意到,考慮到這種規模的集群在負載下容易拉動超過 40MW,而且這還是在考慮數據中心冷卻之前。
即便如此,Chopra 認爲,任何節省都是值得的,特別是對於那些可持續發展目標要求抵消其使用電力的公司來說。
然而,博通核心交換團隊高級副總裁 Ram Velaga在給The Register的一封電子郵件中表示,思科描述的例子不切實際,永遠不會在現實世界中部署。
“例如,他們顯示結構中的 100Gbit/秒鏈路正在轉換爲到 GPU 的 400Gbit/秒鏈路,這意味着您無法使用直通操作。相反,您需要使用更高延遲的存儲,並且-前進行動,”Velaga寫道。
Velaga 補充說,Tomahawk 5 實際上可以通過使用 768 台交換機的兩層網絡支持 32,000 個 GPU 集群——與思科的數量相同。
我們還聯系了英偉達尋求評論,但截至發稿時尚未收到回復。
Silicon One ASIC 目前已交到客戶手中,用於集成到最終產品中。然而,Chopra並沒有承諾最終產品進入數據中心的時間表。
本文作者可以追加內容哦 !
鄭重聲明:本文版權歸原作者所有,轉載文章僅為傳播信息之目的,不構成任何投資建議,如有侵權行為,請第一時間聯絡我們修改或刪除,多謝。
標題:思科用這顆芯片,挑战英偉達和博通
地址:https://www.breakthing.com/post/70932.html