8月16日,MediaTek正式宣布與百度聯合發起飛槳和文心大模型硬件生態共創計劃,雙方將共同推進MediaTek硬件平台與飛槳和文心大模型的適配。目前雙方正在合作優化文心大模型在終端設備上的執行效果,將實現大模型在終端和雲端的協同工作,爲用戶帶來突破性的生成式AI應用體驗。
作爲推動AI進一步發展的先進技術,與單純在雲端部署生成式AI應用和服務相比,終端側部署生成式AI在節約服務器成本、保護用戶信息安全、提升實時性和實現個性化用戶體驗等方面具備明顯優勢。雙方的合作將支持基於MediaTek芯片的智能手機、汽車、智能家居、物聯網等終端設備上運行文心大模型,賦能終端設備提供更安全、可靠和差異化的使用體驗。
MediaTek與百度合作已久,雙方合作完成了Paddle Lite 輕量化推理引擎基於MediaTek NeuroPilot 人工智能通用軟件平台的適配。
NeuroPilot是MediaTek爲开發者提供的基於本地端側的AI運算解決方案,它爲內建CPU、GPU 和 APU(獨立AI 處理器)等異構運算單元的MediaTek SoC平台提供完整且強大的軟件解決方案。NeuroPilot支持开發者在現有和未來的MediaTek 硬件平台以及包括智能手機、汽車、智能家居、物聯網等產品线實現“一次編寫,全場景通用”,幫助开發者在MediaTek平台上高效开發和部署基於神經網絡模型的AI應用程序。AI开發者可以使用主流的TensorFlow、Pytorch、TF Lite、Caffe、Caffe2以及其他自定義的第三方通用AI框架來構建神經網絡模型,並接入到NeuroPilot系統,充分發揮MediaTek AI系統的強勁算力,顯著提高模型運行在設備上的效率,並降低功耗和內存消耗。
MediaTek無线通信事業部副總經理李彥輯博士表示:“百度飛槳深度學習平台和文心大模型在AI領域處於領先地位,我們雙方將聚焦AI大模型在終端側的部署,爲用戶提供更安全可靠,更個人化,更低成本的端側生成式AI解決方案,賦予終端設備更強大的AI能力。MediaTek攜手百度飛槳和文心大模型,通過AI端雲融合,將爲廣大开發者和終端用戶帶來更多令人興奮的AI創新機遇和產品體驗。”
生成式人工智能浪潮下,大模型正成爲新一輪科技革命和產業變革的重要驅動力量。MediaTek將持續攜手百度飛槳和文心大模型,加速終端側生成式AI的部署,共同打造軟硬一體的人工智能大模型平台,讓科技惠及大衆,爲千行百業賦能。
本文作者可以追加內容哦 !
鄭重聲明:本文版權歸原作者所有,轉載文章僅為傳播信息之目的,不構成任何投資建議,如有侵權行為,請第一時間聯絡我們修改或刪除,多謝。
標題:MediaTek聯合百度發起飛槳和文心大模型硬件生態共創計劃
地址:https://www.breakthing.com/post/89497.html