英偉達中國區首席技術官:將任務負載從CPU移至GPU,整體能耗將節省更多
1年前
據澎湃新聞,7月7日,在2023世界人工智能大會上,英偉達(NVIDIA)中國區首席技術官賴俊傑表示,英偉達在全球數據中心計算問題上觀察到兩個重要趨勢:一是人們對人機交互的期望大大提高,引發了全球第二波關於大模型的投入浪潮。
二是很多互聯網公司面臨着用戶需求增長、功耗越來越多的問題,特別是人工智能的大模型訪問比例增加,意味着需要更多的能耗投入。
針對第二個趨勢,英偉達提出如果能更多地將任務負載從CPU移至GPU,那么能在支撐同樣多的用戶請求之同時,節省更多的能耗。
追加內容

本文作者可以追加內容哦 !

鄭重聲明:本文版權歸原作者所有,轉載文章僅為傳播信息之目的,不構成任何投資建議,如有侵權行為,請第一時間聯絡我們修改或刪除,多謝。



標題:英偉達中國區首席技術官:將任務負載從CPU移至GPU,整體能耗將節省更多

地址:https://www.breakthing.com/post/75581.html