大模型本無辜,但不是用作割韭菜的鐮刀
1年前

曾經我們期待的是AI改變時代,解放生產力,然而不知從何時开始,流言蜚語、假新聞、標題黨獲得大量曝光量,現在更糟糕的是它們开始利用ChatGPT等AI工具,無意義,無營養內容的制作成本被迅速拉低,很快即充斥互聯網各大內容平台,想獲取真正可靠的消息的成本反倒直线上升,難如大浪淘沙。

一言以蔽之,天下互聯網苦劣質內容久矣,優秀的創作者正在失去熱情,劣幣正在驅逐良幣,遲早會造就更爲嚴重的信息繭房。


1、 無孔不入的ChatGPT

不論是否承認,ChatGPT的確是方便了很多人的很多工作。如果現在上網搜索“AI寫文章賺錢”,會有無數課程教你用AI寫文章,只需復制粘貼,月賺上千元,甚至這些課程裏用的都是ChatGPT的套殼產品。方法也很簡單:首先找爆款文章,把开頭抄下來,然後上傳到ChatGPT的對話框中,讓它續寫文章,之後上傳到這樣那樣的信息平台上。之前還有用戶利用ChatGPT編造新聞,目的或許只是覺得好玩,然而該有的制裁是躲不掉的。今年2月16日,杭州某小區微信業主群裏,一位業主將發消息稱“杭州於2023年3月1日取消限行”,群員又轉發到外部群,讓信息越傳越遠。然而“取消限行”是該業主利用ChatGPT寫作的結果,最終杭州警方介入調查,涉事業主在微信群裏正式道歉,最終止住了謠言。

這件事情發生時GPT-4尚未上线,但是魔鬼一旦逃離瓶子,再想關回去就很難了。去年11月ChatGPT首次上线時,在國內互聯網上的影響堪稱是地震級的。當時人們都期待AI可以輔助思考與表達,提高創作效率。但沒想到的是,還不到半年的時間,人們面對的卻是千篇一律的表達,被打亂重組的假新聞和沒有意義的車軲轆話。以三微一端向外蔓延,知乎、小紅書等各大內容平台無一幸免,全部淪陷。

舉圖中例子來說,問的是“中國古代有趣的或懸疑的真實故事”,答的是“南明大盜黃宗羲”,標志性的一本正經的胡說八道令人啼笑皆非。單看這個回答結構,先的重復問題,並獨立成段。接下來全文履歷式寫作,關鍵的盜竊細節和情感起伏只字不提,最後又莫名其妙的總結升華,“這是中國歷史上鮮爲人知但令人着迷的懸疑案件之一”,提供這種回答的,不是ChatGPT還能是誰呢?

進入知乎的“等你來答”板塊,就會發現許多有着AI味道的答案,或者按照一些媒體的說法,是“機裏機氣”。從遊戲到現實,從歷史到眼前,從智能音箱推薦到微觀粒子是否有慣性,可以說被AI寵幸的問題,只有想不到,沒有做不到。AI的利用者甚至還嫌ChatGPT的效率不夠快,又开始研究安裝插件,在知乎問題頁面就會增加“點擊詢問ChatGPT”按鈕,一鍵生成答案,連復制粘貼的步驟都省掉了。廣告語寫的也很動人,“讓知識觸手可及,Zhi+ChatGPT助你風生水起。”

2、 平台的窘境

2011年知乎正式上线,創始人周源對外表示“垃圾泛濫的互聯網海洋中,知識如同黃金一樣珍貴,因此知乎要做提供產生、分享和傳播知識的工具。”當時,國內並非沒有類似的信息平台,但天涯、貼吧裏基本沒有嚴肅內容,反倒是灌水和蓋樓的行爲屢見不鮮;微博上又幾乎都是娛樂八卦,也沒有多少有價值信息。有人調侃說,早上看訂閱門戶網站的新聞,偶爾去論壇看看,QQ空間選擇性的瞥兩眼,再逛逛博客、人人網和微博。碎片化、娛樂化內容充斥互着聯網,雖然博人眼球,但爆米花終究只能過嘴癮。

2015年,國內互聯網迎來空前的信息爆炸,各家互聯網公司紛紛加注內容分發平台。頭條號率先推出“千人萬元”計劃,用真金白銀吸引創作者,一年後,又成立兩億元規模的內容創業投資基金。BAT等各家企業很快響應,企鵝號推出“芒種計劃”拿出兩億補貼作者,UC加碼拿出十億,百家號更是財大氣粗,宣稱豪擲百億扶持作者。

各家砸錢做內容的初衷都是好的,但真正培養起來的優質創造者卻屈指可數,反倒是做號者不斷滋生,密如韭菜。隨便找到一段文字,發揮自己的想象隨便擴寫幾句,之後再配上網上的圖片,起個包含“震驚”、“震撼”等字眼的驚悚標題,一天可以如流水线似的生產幾十篇。作品成型後即發往各大資訊平台,憑借算法的力量,輕松獲得數萬數十萬的點擊量,做號者騙取了平台補助,賺取了廣告分成,成本卻幾乎可以忽略不計,真正的一本萬利。2018年,有媒體曾報道過《實地探訪山東新媒體村,農婦做自媒體收入破萬》,不了解的可能還以爲是什么勵志典範。還有媒體臥底做號群,發現做號群體內部運作都是機構化甚至企業化範式,有的已經發展到百人級的規模,每天能產出千篇文章。

僅靠燒錢不可能發展出高科技,同樣不可能產生優質內容,反而是優秀創作者不斷流失。而許多底層用戶在誇張標題或封面的吸引下點擊文章,雖然讀下來後很快就能發現毫無內涵。但平台的算法卻記住了用戶一次次的點擊,各家平台上充斥大量低質且同質化內容,最終又勸退用戶,形成內外兩道惡性循環。後來短視頻平台興起,同樣的玩法又重演了一遍,而且因爲短視頻的門檻比文章創作更低,內容與平台都迎來了前所未有的病毒式傳播,只能說太陽底下沒新鮮事。大量無意義或低質量內容、假新聞在互聯網上群魔亂舞,不僅增加了用戶獲取信息的成本,也降低了用戶對平台的信任,平台也無異於自毀招牌。

3、 新時代的自救

隨着ChatGPT等大語言模型的問世,創作門檻再次降低,效率也成倍飛升,毫無疑問的,垃圾內容的生成速度也將大大加快。面對AIGC大勢已來,僅憑簡單的遏制就想阻止垃圾信息的產生無疑有些異想天开,很多國家政府都已亮出各自的對策。四月,中國起草了《生成式人工智能服務管理辦法(徵求意見稿)》,面向全社會公开徵求意見。很快歐盟也加快了AI相關的立法,不久前,歐盟力圖樹立AI行業的監管規範,起草了《人工智能法案》。五月,美國總統拜登曾召集多家AI科技公司代表,商討AI技術存在的潛在風險。在會上拜登提出,面對政府,AI要提高透明度,在產品推出前也應進行完備的安全評估。

但在AI飛速狂飆的今天,僅僅依靠監管AI恐怕也不是長久之計。AI目前沒有分辨能力,不會分辨用戶身份以及答案的真假,因此用戶可以通過更換提問方式,讓AI繼續生成需要的答案。因此,不僅AI企業自身與上級監管機構,平台和用戶都有責任。

從內容平台來看,首先是提高內容審核標准,AI識別不出真假,那憑人力也起碼要識別出AI生成的無意義內容。平台可以利用AI學習AIGC的具體內容,並增加人工審核力度,雙管齊下,最終實現精准識別。其次,平台也應告知用戶哪些內容爲AI生成。此前知乎曾發布公告,規定創作者發布內容包含AIGC時,必須使用“包含AI輔助創作”標籤,否則限流。此外平台可以限制發稿速度,增加人工等方式,減少AIGC對平台生態的污染。此前今日頭條曾推出“內容品鑑官”,讓某一領域的專業用戶作爲評判者,篩選優質文章再進行推薦。在用戶角度而言,提高分辨與審美能力無疑是很好的方法,不僅是內容的優劣,還有AIGC中的垃圾信息。

如同AI的名字所示,人工與智能本應是相伴相生的,彼此的博弈也還會持續多年。既然AI時代不可阻擋,那爲什么不期待一個AI和我們良性循環,互惠互利的世界呢?昔日蘇聯槍械設計師卡拉什尼科夫有句名言:“槍械無罪,罪在扣動扳機的人。”在AI來勢洶洶的眼下,這句話同樣適用。

追加內容

本文作者可以追加內容哦 !

鄭重聲明:本文版權歸原作者所有,轉載文章僅為傳播信息之目的,不構成任何投資建議,如有侵權行為,請第一時間聯絡我們修改或刪除,多謝。



標題:大模型本無辜,但不是用作割韭菜的鐮刀

地址:https://www.breakthing.com/post/69827.html