微軟崔宏禹:GPT-4以後,不建議再用微調進行特定領域的模型適配
1年前
格隆匯5月27日丨據澎湃,5月26日,微軟(中國)有限公司創新技術總經理崔宏禹在上海舉行的向星力未來數據技術峰會(FDTC)上回應了當下一個廣泛被提及的問題,即如何用自己的數據訓練自己的模型,將私域數據與GPT的能力相融合。崔宏禹解答道,“一般來說,我們推薦兩種方式。一種是微調(在不改動預訓練模型的基礎上,在模型頂層增加分類器或一些特徵映射,使微調後的模型能夠更貼合實際使用場景),但在GPT-4以後,我們已經不建議或者已經不讓大家使用微調的方式了。我們更推薦的是嵌入(將一個內容實體映射爲低維向量,從而可以獲得內容之間的相似度)的方式。”
追加內容

本文作者可以追加內容哦 !

鄭重聲明:本文版權歸原作者所有,轉載文章僅為傳播信息之目的,不構成任何投資建議,如有侵權行為,請第一時間聯絡我們修改或刪除,多謝。



標題:微軟崔宏禹:GPT-4以後,不建議再用微調進行特定領域的模型適配

地址:https://www.breakthing.com/post/62157.html