基辛格:ChatGPT預示着一場智能革命,而人類還沒准備好
1年前

2023年,ChatGPT引爆了全球對人工智能的廣泛關注。科技界、知識界和產業界,圍繞着AI(人工智能)的發展前景、影響衝擊等發生激烈爭論。而ChatGPT本身正引發一系列深刻的連鎖反應,席卷至各個行業、企業、國家乃至個人。

著名外交家、美國前國務卿亨利基辛格和谷歌前首席執行官埃裏克施密特、麻省理工學院蘇世民學院院長丹尼爾胡騰洛赫爾今年聯名在媒體發表文章《ChatGPT預示着一場智能革命》。文章中提出“一項新技術正試圖改變人類認知過程,這是自印刷術發明以來從未經歷過的震動。這項新技術被稱爲生成人工智能。OpenAI研究實驗室开發的ChatGPT現在能夠與人類交流。隨着它的能力變得更廣泛,它們將重新定義人類知識,加速我們現實構造的變化,並重組政治和社會。”

基辛格已經步入100歲高齡,但是他頭腦依然很清醒,思路依然很清晰。一直非常關注人工智能的發展,他曾經說過“搞技術的人關心的是應用,我關心的是影響”。在這篇文章中他強烈呼籲“人類需要重新定義與 AI 這種新物種之間的關系,而且我們人類對於這一切還沒有准備好。”

近期由基辛格、施密特和胡騰洛赫爾共同完成的新書《人工智能時代與人類未來》出版,從政治、經濟、科技等維度探討人工智能及其改變人類社會的方式,也提出了提出人類在未來幾年所必須面對的問題以及解答工具。

人工智能可能導致啓蒙運動的終結

1450 年,德國美因茨市的金匠約翰內斯谷登堡用借來的錢研制了一台試驗性的印刷機。他的努力難言成功,因爲他的生意一度陷入困境,債權人還起訴了他。但在1455 年,歐洲的第一本印刷讀物《四十二行聖經》問世了。最終,他的印刷機引發了一場革命,在西方乃至全球生活的各個領域都產生了強烈反響。

印刷機的發明使對經驗知識的追求取代了禮儀教義,啓蒙時代逐漸取代宗教時代。個人思想和科學知識取代信仰,成爲人類意識的主要標准。信息通過圖書館的擴張得到存儲和系統化。啓蒙時代是塑造當代世界的諸多思想和行動的來源。

生成性人工智能提出了一個自啓蒙運動开始以來從未經歷過的哲學和實踐挑战。印刷機使學者們能夠迅速復制彼此的發現並分享它們。信息的空前整合和傳播產生了科學方法。原本密不透風的東西變成了加速查詢的起點。以宗教信仰爲基礎的中世紀對世界的解釋逐漸被削弱。宇宙的深處可以被探索,直到達到人類理解的新極限。

啓蒙運動試圖使傳統的真理讓位於解放後的人的分析理性。而互聯網的目的是通過積累和操縱不斷擴大的數據,獲取知識。人類的認知失去了個體特徵。個體變成了數據,而數據變成了統治者。

當信息被情境化時,它就變成了知識。當知識令人信服時,它就變成了智慧。然而,互聯網讓用戶淹沒在數以千計,甚至數以百萬計的其他用戶的意見中,剝奪了他們持續思考所需的獨處感,而從歷史上看,正是這種獨處感催生了對知識的信念。隨着獨處感的消失,堅毅的精神也不復以往——須知不僅信念的形成需要堅韌不拔的毅力,保持對信念的忠誠也一樣,當這種信念需要穿過未有前人踏足的,因此往往是孤獨的道路才能獲取時尤其如此。這種信念也只有與智慧相結合,人們才能進入和探索新的視界。

數字世界對智慧沒有多少耐心,它的價值觀是由贊許而不是自省塑造的。它從本質上挑战了啓蒙運動認爲理性是意識最重要因素的主張。數字世界消除了過去距離、時間和語言對人類行爲的限制,它本身就提供了一種有意義的聯系。

隨着人工智能的崛起,對人類角色、人類愿望和人類成就的定義都將發生變化。在這個時代,人類的哪些品質值得頌揚?其指導原則是什么?人們有兩種認識世界的傳統方式:信仰和理性;如今又添上了第三種——人工智能。

在一個人工智能可以評估我們生活中的諸般事物,預測接下來會發生什么,並決定該做什么的時代,即一個現實可以被預測、近似和模擬的時代,人類理性的角色將會改變。我們對個人和社會的目標感也會隨之改變。在某些領域,人工智能可能會增強人類的理性。在其他領域,人工智能則可能會讓人類產生一種置身事外的感覺。

各個社會都有兩個選擇:一個是各自爲战;另一個則是帶着合作意向开始對話,舉全人類的進步之力來界定人工智能的角色,同時明晰我們自己的角色。前一種路徑是棄權式的默認,而後一種則需要領導人和哲學家、科學家和人文主義者,以及其他各種團體的清醒參與。

最終,個人和社會將不得不決定,生活的哪些方面應該留給人類智能,哪些方面則應交由人工智能或人類與人工智能的合作。人類與人工智能的合作並不是一種對等關系。歸根結底,人工智能既由人類構建,也由人類指揮。但隨着我們逐漸習慣和依賴人工智能,對其加以限制可能會導致更高昂的成本、更困難的心理挑战,甚至更復雜的技術。我們的使命將是了解人工智能給人類經驗帶來的變化、它對人類身份的挑战,以及這些發展變化的哪些方面需要由其他的人類義務來加以調節或制衡。人類未來將如何呈現,這取決於人類在人工智能時代的角定。

人工智能革命發生之迅猛,將超過大多數人的預期。除非我們發展出新的概念來解釋、演繹和組織其所帶來的轉變,否則無論是對人工智能還是對其所產生的影響,我們都無法駕馭。在道德上、哲學上、心理上、實踐上,可以說在各個方面,我們均發現自己正處於一個新時代的懸崖邊,身後已無路可退。我們必須動用自己最根本的素養和資源,比如理性、信仰、傳統和技術,來調整我們與現實的關系,從而讓現實仍是人類的現實。

人工智能將引發教育革命

人工智能時代的到來將改變我們與他人,以及我們與自己的關系。正如今天的“數字原生代”和之前的幾代人之間存在代溝一樣,“人工智能原生代”和他們的前輩之間也會出現差異。

未來,孩子們可能在比Alexas和谷歌Homes更先進的人工智能助手的陪伴下長大,這個助手集保姆、導師、顧問、朋友等多種角色於一身。這樣的助手幾乎可以教孩子任何語言,也可以訓練孩子學習任何科目,並根據每個學生的表現和學習風格來因材施教,使他們獲得最佳的學習效果。當孩子感到無聊時,人工智能可以充當玩伴;當孩子的父母不在時,人工智能又可以成爲監護者。隨着由人工智能提供和量身定制的教育被引入,普通人的能力既會有所提高,也會面臨挑战。

人類和人工智能之間的界限將會驚人地模糊。如果孩子在年幼之時就用到了數字助手,他們就會對此習以爲常。同時,數字助手將與它們的主人一起成長發展,並隨着他們的成熟,將他們的喜好和偏見逐漸內在化。數字助手的任務是通過個性化最大限度地提高人類同伴的便利感或滿足感,它們給出的建議和信息可能會被人類用戶視爲必不可少,即使人類用戶無法准確解釋爲什么它們要好於其他任何替代資源。

長此以往,人們可能會更偏愛自己的數字助手,而不是人類。因爲人類不懂得投其所好,而且更“令人討厭”。結果,我們對彼此的依賴、對人際關系的依賴,可能都會被削弱。到那時,那些童年時代妙不可言的特質和無可替代的教訓將變成什么樣子呢?一種並不能感知或體驗人類情感卻給予無處不在陪伴的機器,將如何影響孩子對世界的感知及其社會化?它將如何塑造想象力?它將如何改變遊戲的本質?它將如何改變交友或融入社會的過程?

可以這么說,數字信息的唾手可得已經改變了一代人的教育和文化體驗。現在,世界正在开展另一項“偉大實驗”,在這個實驗中,孩子們將在機器的陪伴下成長,這些機器將在許多方面充當以前世代人類教師那樣的角色,卻沒有人類的感覺、洞察力和情感。最終,實驗參與者可能會問,他們的經歷是否以他們未曾預料或不能接受的方式被改變了呢?

父母也許會因爲擔心這種接觸會對孩子產生不確定的影響而排斥這種技術。就像上一代的父母限制孩子看電視的時間,現在的父母限制孩子使用數碼設備的時間一樣,未來的父母可能會限制人工智能陪伴孩子的時間。但那些希望推動孩子取得成功的人,或者沒有意愿或能力讓孩子得到人類父母養育或人類導師教導而只能依賴人工智能的人,或者只是想滿足孩子結交人工智能朋友愿望的人,可能會贊成讓孩子與人工智能爲伴。因此,這些尚處在學習與發展階段、易受影響的孩子,可能通過與人工智能的對話形成他們對世界的印象。

具有諷刺意味的是,盡管數字化讓越來越多的信息變得可用,但它卻壓縮了深入、專注思考所需的空間。今天幾乎持續不斷的媒體流增加了思考的成本,從而減少了思考的頻率。算法爲了回應人類對刺激的渴望而力推那些奪人眼球的事物,而能夠奪人眼球的,往往也是戲劇性的、出人意料的和有感染力的。一個人能否在這種環境中找到思考的空間是一個問題,而如今佔主導地位的交流形式不利於促進有節制的理性,這是另一個問題。

人類要對未來做好准備

機器學習系統已經超越了任何一個人的知識。在有限的情況下,它們已經超過了人類的知識,超越了我們所認爲的可知邊界。這已經在取得這種突破的領域引發了一場革命。人工智能已經改變了生物學中確定蛋白質結構的核心問題和高級數學家做證明的問題,以及其他許多問題。

隨着模型從人類生成的文本轉向更具包容性的輸入,機器可能會改變現實本身的結構。量子理論認爲,觀察創造了現實。在測量之前,沒有任何狀態是固定的,也沒有任何東西可以說是存在的。如果這是真的,如果機器的觀察也能固定現實,並且鑑於人工智能系統的觀察具有超人的速度,定義現實的演變速度似乎會加快。對機器的依賴將決定並因此改變現實的結構,產生一個我們還不了解的新未來,我們必須爲探索和領導這個未來做好准備。

傳統的理性和信仰將在人工智能時代繼續存在,但其性質和範圍必將因爲引入一種新的、強有力的、機器運作的邏輯形式而受到深刻影響。人類身份可能會繼續停留在“生命智能”的頂峰,但人類理性將不再被視爲致力於理解現實的智能的全部。爲了釐清我們在這個世界上的地位,我們的側重點可能需要從“以人類理性爲中心”轉移到“以人類尊嚴和自主性爲中心”。

人工智能可能在探索和管理現實世界和數字世界方面發揮主導作用。

在特定領域,人類可能會對人工智能言聽計從,更喜歡人工智能的數據處理過程,而非人類思維的局限性。這種遵從,可能使許多人甚至大多數人退回到一個個人的、過濾的、定制的世界。在這種情境下,人工智能的力量加上它的普遍性、隱蔽性和不透明性,將引發人們對自由社會甚至自由意志前景的懷疑。

在許多領域,人工智能和人類將成爲探索事業中的平等夥伴。因此,人類的身份將反映出與新關系的和解,無論是與人工智能還是與現實。不同的社會將爲人類領導權开闢不同的領域。同時,它們將形成必要的社會結構和習慣,以理解人工智能並與其有效互動。爲了與人工智能融洽相處,社會需要建立相應知識和心理基礎設施,並運用其獨特才智,盡可能地造福人類。技術將迫使政治和社會生活的許多方面(實際上是大多數方面)做出調整。

一些社會和制度可能會逐步適應,然而,另一些卻可能會發現,它們的基本假設與它們感知現實和自身的方式相衝突。由於人工智能促進了教育和信息獲取,同時也增加了信息被誇大和操縱的可能性,這些衝突可能會愈演愈烈。個人的消息會更靈通、准備會更充分、觀點會有更大影響力,他們可能據此對政府提出更多要求。

對此,可以給出一些原則。首先,爲了確保人類的自主權,政府的核心決策應該脫離已被人工智能浸染的結構,並僅限於人類的管理和監督。我們社會固有的原則規定了對爭端的和平解決。在這個過程中,秩序與正當性是互爲關聯的:沒有正當性的秩序只是力量而已。

確保人類對政府基本構成部分的監督和決定性參與,對於維持其正當性至關重要。例如,在司法行政過程中,提供解釋和道德推理是其正當性的關鍵要素,這使參與者能夠評估裁決的公平性,並在其結論不符合社會所堅持的道德原則時對其提出疑問。由此可見,在人工智能時代,當涉及重大問題時,決策者都應該是具備相應資質、能夠爲所做選擇給出理由的非匿名人類。

每個社會必須首先確定人工智能在各個領域允許和不允許使用的全部範圍。對某些強大的人工智能,如通用人工智能的使用權,需要嚴格把關,以防止被濫用。因爲通用人工智能的構建成本可能相當高昂,只有少數組織能夠負擔得起,所以其使用可能會受到限制。某些限制可能違反一個社會關於自由企業和民主進程的理念。對於其他方面的限制,如限制在生物武器生產中使用人工智能,應該很容易達成一致,但需要國際合作。

機器的發展速度將遠遠超過我們的基因,造成國內的混亂和國際的分歧。我們必須做出相應的反應,特別是在國家和全球範圍內的哲學和概念主義。正如伊曼紐爾-康德在三個世紀前所預言的那樣,全球協調將需要通過感知或災難來出現。

歐盟已經勾勒出監管人工智能的計劃綱要,目標是加強對企業和政府使用數據和人工智能方式的管理,並促進歐洲人工智能公司的創建和發展。該監管框架包括對人工智能的各種用途進行風險評估,並限制甚至禁止政府使用某些被視爲具有高風險的技術,如人臉識別(盡管人臉識別有一些有益用途,如尋找失蹤人口和打擊人口販運)。毫無疑問,這些初步概念會面臨廣泛的爭議和修改,但這也是一個社會決定限制人工智能範圍,並相信此舉能夠使其推動生活方式進步和未來發展的先例。

ChatGPT對很多問題給出的答案之所以令人回味,是因爲它們提出的問題多於結論。目前,我們擁有一項新穎而壯觀的成就——人工智能,它是人類思想的榮耀。我們還沒有爲它進化出一個目的地。當我們成爲技術智人時,我們迫切需要定義我們物種的目的。現在,我們有責任提供真正的答案。

文| 中信出版社

編輯 | 彭韌

(本文內容僅供參考,不構成任何形式的投資和金融建議;市場有風險,投資須謹慎。)


追加內容

本文作者可以追加內容哦 !

鄭重聲明:本文版權歸原作者所有,轉載文章僅為傳播信息之目的,不構成任何投資建議,如有侵權行為,請第一時間聯絡我們修改或刪除,多謝。



標題:基辛格:ChatGPT預示着一場智能革命,而人類還沒准備好

地址:https://www.breakthing.com/post/62489.html