以ChatGPT爲代表的AI大模型的火爆，讓全球見識到了生成式AI所帶來的革命生產力。如何將這種AI技術規模化部署，以釋放其潛能，是包括硬件、軟件、終端、應用層等不同領域廠商的共同挑战。
近日，高通發布了《混合AI是AI的未來》白皮書，其中指出，隨着生成式AI以前所未有的速度發展以及計算需求的日益增長，雲端和終端協同處理的混合AI是AI的未來，這樣才能高效推動AI規模化落地，並發揮其最大潛能。
內容圖片
高通技術公司產品管理高級副總裁兼AI負責人Ziad Asghar
高通技術公司產品管理高級副總裁兼AI負責人Ziad Asghar表示，“僅靠雲端處理已難以支持生成式AI的規模化擴展，在雲邊協同的混合AI部署下，即使不同終端處理能力不盡相同，但仍能提供相近的體驗，同時帶來包括成本、能耗、性能時延、隱私與安全、個性化等優勢。”
混合AI對生成式AI規模化擴展至關重要
隨着模型規模的不斷擴大，以及用戶數量與查詢次數的不斷增加，都導致了雲端AI的部署成本急劇上升。僅在雲端完成所有生成式AI所需的工作負載，顯然已是難以實現。這種情況下，雲端與終端協同部署的混合AI的處理模式，將部分處理能力交給終端側完成，可以大大提升整體效率，降低成本，真正發揮出生成式AI的優勢。
另外，很多用戶在使用生成式AI技術時，需要向雲端發送個人信息與數據，這引發了用戶隱私保護的問題。而在終端側運行AI，用戶的數據可以始終保留在終端上，就可以有效解決這一問題。
與此同時，隨着生成式AI展現出在衆多領域的應用前景，很多新興應用也开始需要生成式AI能力，市場上同時出現了衆多或通過或專用的大模型產品。可以預見，要真正釋放生成式AI的全部潛能，AI技術需要在邊緣側運行，雲邊一體混合AI勢在必行。
內容圖片
“混合AI對生成式AI規模化擴展至關重要。對隱私和安全要求比較高的終端側工作負載，可以通過邊緣雲，完全在終端側完成。對於其它的模型工作，可以和雲服務供應商合作完成。”Ziad Asghar指出，“通過在雲端和邊緣側終端分布工作負載，能夠大幅度減少雲端的處理量，同時帶來包括成本、能耗、性能時延、隱私與安全、個性化等諸多優勢。”
超10億參數大模型已能在高通系終端側運行
作爲端側AI技術領導者，高通的軟硬件技術廣泛應用在手機、汽車、XR頭顯與眼鏡、PC和物聯網等終端中，目前已能支持超10億參數的大模型在終端側運行。
據悉，該大模型Stable Diffusion是一個參數超過10億的超大神經網絡基礎模型，能夠基於輸入的文本提示生成圖片。根據高通的演示，將手機設置成“飛行模式”，在沒有網絡支持的手機端運行Stable Diffusion，可實現15秒內完成20步推理，生成飽含細節的圖像，例如，將Stable Diffusion的能力集成到相機應用中，用戶在任何一個地點拍攝照片，再通過AI處理將照片背景改爲夕陽之下的萬裏長城，都可以快速輕松完成。

鄭重聲明：本文版權歸原作者所有，轉載文章僅為傳播信息之目的，不構成任何投資建議，如有侵權行為，請第一時間聯絡我們修改或刪除，多謝。

---

標題：以ChatGPT爲代表的AI大模型的火爆，讓全球見識到了生成式AI所帶來的革命生

地址：https://www.breakthing.com/post/70778.html