大家好!深度內參算力需求开啓新的黃金賽道AI奇點的到來也將會成就算力領域的黃金時
1年前
大家好!深度內參
算力需求开啓新的黃金賽道
AI奇點的到來也將會成就算力領域的黃金時代。
算力是指計算機系統能夠完成的計算任務量,通常用來描述計算機的處理能力。算力的單位通常採用FLOPS(Floating Point Operations Per Second)表示每秒鐘能夠完成的浮點運算或指令數。以英偉達在2020年發布的A100產品爲例,根據英偉達官方介紹,A100的理論浮點運算性能可以達到19.5 TFLOPS,即每秒195萬億次浮點運算。
算力可分爲通用算力、智能算力以及超算算力,對應着三種計算模式:基礎計算、智能計算以及超級計算。不同的場景所需的算力種類不同,其對應的計算精度也不盡相同。
AI大模型是“大數據+大算力+強算法”結合的產物,凝聚了大數據內在精華的“隱式知識庫”,希望邏輯結構能夠自發地從模型的訓練過程中湧現。AI大模型包含了“預訓練”和“大模型”兩層含義,即模型在大規模數據集上完成了預訓練後形成特徵和規則,無需或僅需要少量數據的微調,就能直接支撐各類應用。
人工智能實現方法之一爲機器學習,而深度學習是用來實現機器學習的技術,通常可分爲“訓練”和“推理”兩個階段。訓練階段:需要基於大量的數據來調整和優化人工智能模型的參數,使模型的准確度達到預期,核心在於算力;推理階段:訓練結束後,建立的人工智能模型相可用於推理或預測待處理輸入數據對應的輸出(例如給定一張圖片,識別該圖片中的物體),這個過程爲推理階段,對單個任務的計算能力不及訓練,但總計算量也相當可觀。
比於傳統AI算法,大模型在參數規模上得到大幅提升,參數一般達到千億甚至萬億規模。例如OpenAI的GPT系列,最开始的GPT-1擁有1.17億個參數,到GPT-3的參數已經到達1750億個,而相應的能力也得到大幅提升。
GPT-3开啓了大模型時代。GPT-3使用了大量的語料庫進行預訓練,使其能夠理解語言的規則和模式,並生成與輸入文本相關的自然語言文本,GPT-3的主要特點是它具有大規模的預訓練模型,而同時大規模的訓練模型與之對應的便是龐大的算力需求。
根據OpenAI團隊成員2020年發表的論文《Language Models are Few-Shot Learners》,GPT-3模型擁有約1750億個參數,這使得GPT-3擁有其他較少參考量模型來說更高的准確性。同時基於1750億個參數的模型僅需少量的樣本訓練,就能夠接近於BETR模型使用大量樣本訓練後的效果。
大模型無論在性能還是在學習能力上,相較於其他模型都具備明顯優勢,未來或將成爲行業趨勢。伴隨大模型的明顯優勢,與之而來的則是對於算力要求的顯著提升。以GPT-3爲例,如果以英偉達旗艦級GPU產品A100對其進行訓練,1024塊A100卡需要耗費超過1個月(大於30天),按比例可以計算出,如果需要單日完成訓練,需要的A100數量則將超過30000塊。
OpenAl的數據也顯示,從2012年到2020年,其算力消耗平均每3.4個月就翻倍一次,8年間算力增長了30萬倍。OpenAI首席執行官Sam Altman接受公开採訪表示,GTP-4參數量爲GTP-3的20倍,需要的計算量爲GTP-3的10倍;GTP-5在2024年底至2025年發布,它的參數量爲GTP-3的100倍,需要的計算量爲GTP-3的200-400倍。
此外,AI時代算力的增長也遠遠超過了摩爾定律每18個月翻番的速率,根據中國信息通信研究院的估算,2021年全球超算算力規模大約爲14EFLOPS,預測到2030年全球超算算力將達到0.2ZFLOPS,平均年增速超過34%。
而ChatGPT僅僅是AI大規模應用的开始,更多的AI應用尚在路上,海量的數據將會產生且非結構化數據居多,這些數據需要更大帶寬的網絡設備進行傳輸,更多的AI算力進行處理。
AI滲透千行百業,拉動智能算力規模高速增長。2022年,各行各業的AI應用滲透度都呈不斷加深的態勢,尤其是在金融、電信、制造以及醫療領域,爲實現業務增長、保持強大競爭力、從而佔據更大的市場份額,企業紛紛入局AI領域,通過新技術提升傳統業務用戶體驗,人工智能應用增長迅速。
據IDC和浪潮信息聯合發布的《2022-2023中國人工智能計算力發展評估報告》,預計到2023年年底,中國將有50%的制造業供應鏈環節採用人工智能技術實現業務體驗提升。在未來,隨着AI技術對傳統行業賦能作用日益凸顯,催生出更大智算需求成爲必然。
顯然,算力已成爲數字化時代的關鍵生產要素。越來越多的國家會認識到算力對宏觀經濟的重要性,算力資本與物質資本形成互補效應,共同促進GDP增長,算力勢必會成爲各國未來主要的角逐點。
隨着全球數字化進程的全面开啓,算力作爲重要支持,賦能作用已經有所顯現。《2021-2022全球計算力指數評估報告》的評估結果顯示,15個重點國家的計算力指數平均每提高1點,國家的數字經濟和GDP將分別增長3.5‰和1.8‰,並預計該趨勢在2021-2025年將繼續保持。
隨着全球數字化進程的推進,雲計算、人工智能、無人駕駛、AR/VR等新興數字科技產業蓬勃發展,全球數據總量呈現爆發式增長。據IDC預測,2021-2025年,全球新增和復制的數據量復合增長率達到23%,與此同時,全球算力規模也在同步高增長。根據華爲的預測,到2030年全球通用計算算力將達3.3 ZFLOPS(FP32,每秒十萬億億次浮點計算),AI計算算力將達到105 ZFLOPS(FP16),增長500倍。
在2022世界人工智能大會上,華爲輪值董事長胡厚崑做出了上述預測,他提議“AI先行”,讓國家的算力網絡的建設從這個最大的增量开始,通過新建人工智能計算中心,形成人工智能算力的網絡,也爲國家推行東數西算的战略的落地先行先試。他大膽預測,未來,算力網絡將像電網、通訊網、高鐵一樣,會成爲國家新的基礎設施,爲國家整體經濟的發展提供強大的動力。
隨着數字化進程推進,算力需求持續增長,數據中心的市場規模不斷擴大。國內外雲計算龍頭企業亞馬遜、微軟、谷歌等紛紛加大資本开支,主要用於數據中心基礎設施的建設。服務器作爲數據中心建設成本的最大部分,市場規模快速擴張。
東吳證券表示,ChatGPT引爆的AI浪潮將拉動雲服務器數量的增長,其國內相關供應廠商將有望受益於下遊AI+級應用所帶來的算力需求增長,國內雲服務器與算力相關廠商有望直接受益。
AI服務器算力底座
數據海量增加,算法模型愈加復雜,應用場景的深入和發展,帶來了對算力需求的快速提升。
根據IDC測算,國內智能算力規模正在高速增長,2021年中國智能算力規模達155.2 EFLOPS,2022年智能算力規模將達到268.0 EFLOPS,預計到2026年智能算力規模將進入ZFLOPS級別,達到1271.4 EFLOPS。2021-2026年期間,預計中國智能算力規模年復合增長率達52.3%。通用算力規模也正在高速增長,根據IDC測算,2021年中國通用算力規模達47.7 EFLOPS,預計到2026年通用算力規模將達到111.3 EFLOPS。2021-2026年期間,預計中國通用算力……
最後祝大家年年有余周摸女快!
追加內容

本文作者可以追加內容哦 !

鄭重聲明:本文版權歸原作者所有,轉載文章僅為傳播信息之目的,不構成任何投資建議,如有侵權行為,請第一時間聯絡我們修改或刪除,多謝。



標題:大家好!深度內參算力需求开啓新的黃金賽道AI奇點的到來也將會成就算力領域的黃金時

地址:https://www.breakthing.com/post/69199.html