【獵雲網（微信：）北京】1月25日報道
1月24日，在 “中國工程院院刊：信息領域青年學術前沿論壇”上，阿裏巴巴達摩院、上海浙江大學高等研究院、上海人工智能實驗室聯合發布“洛犀”端雲協同平台。該平台提供一站式的端雲協同模型訓練、部署、通信能力，致力於促進大小模型協同進化，構建充分利用大模型應用潛力的新一代人工智能體系。
因驚豔的性能表現和前所未有的任務遷移性，AI大模型在2021年迎來大爆發，但能耗問題限制其參數擴張及應用落地。2022達摩院十大科技趨勢指出，大模型參數競賽正進入冷靜期，大小模型將在雲邊端協同進化——大模型向邊、端的小模型輸出模型能力，小模型負責實際的推理與執行，同時小模型再向大模型反饋算法與執行成效，讓大模型的能力持續強化。
在此背景下，阿裏巴巴達摩院聯合上海浙江大學高等研究院、上海人工智能實驗室研制了“洛犀”平台。該名取自宇宙中大小星體間永恆的洛希吸引力，並含強大、堅韌之意，寓意大小模型珠聯璧合。
洛犀平台沉澱了端雲兩側最佳實踐的算法組件和平台服務。其中，平台在端側以python/js package的形式提供服務，包含表徵、文本理解、圖計算等能力；在端雲鏈路上，平台提供實現端雲協同關鍵的通信能力，包括方案分發、數據通信鏈路；端雲協同的模型訓練累積沉澱在雲端，包括端模型訓練等。
包含10萬億參數的達摩院大模型M6，是目前業界最大的多模態預訓練模型。通過洛犀平台技術，聯合研究團隊成功將3.4億參數版本的M6模型高精度壓縮至百萬參數的10MB大小，以1/30的體積還原了90%以上性能，並試點部署於搜索場景，成爲業界首個落地的端上預訓練模型。此外，團隊還借助洛犀完成了圖神經網絡、排序模型、強化學習等技術在端雲協同範式下的部署。
“須彌藏芥子，芥子納須彌。”浙江大學上海高等研究院常務副院長吳飛教授如此形容大小模型間的辯證關系。龐大的須彌山如何納入極微小的種子中？答案是取其精髓、化繁爲簡。大模型通過高精度壓縮，化身爲終端可用的小模型，小模型的實踐累積起來，將不斷提升雲端大模型的認知推理能力，實現“集衆智者無畏於聖人”。
達摩院智能計算實驗室負責人周靖人介紹，團隊將進一步探索端雲協同框架下端模型和雲模型的協同機理，並完善算法方案和業務實踐。洛犀平台未來計劃對开發者开放，讓大小模型協同進化的時代加速到來。上海人工智能實驗室主任助理王延峰教授表示，實驗室將攜手產學研精英，共同構建具有國際影響力的人工智能生態。
本文作者可以追加內容哦 !
鄭重聲明：本文版權歸原作者所有，轉載文章僅為傳播信息之目的，不構成任何投資建議，如有侵權行為，請第一時間聯絡我們修改或刪除，多謝。
標題：阿裏、浙大、上海人工智能實驗室聯合發布端雲協同AI平台“洛犀”
地址：https://www.breakthing.com/post/574.html
