“AI可能滅絕人類,堪比核战爭!” 超350位大佬聯名發聲
1年前
圖片來自《終結者》


“電影《終結者》中的情境會不會發生?”


英偉達市值一度超過萬億美元,AI風頭正盛的背後,公衆的擔憂也越來越多,科技圈再次流出了一封重磅公开信。

當地時間5月30日,非營利組織“人工智能安全中心”(Center for AI Safety)在其官網發布一封聯名公开信,稱AI這一堪比“疫情和核战爭”的技術或對人類構成生存威脅。
整個聲明只有一句話,22個單詞:

“減輕人工智能帶來的滅絕風險,應該與大流行病和核战爭等其他社會規模的風險級別一樣,成爲一個全球性的優先事項。”

拜登政府近幾個月表示,人工智能對公共安全、隱私和民主構成威脅,但政府對其監管的權力有限。

OpenAI創始人領銜,超350位AI大佬籤名 目前已有超350位AI大佬籤署了上述聯名公开信,包括OpenAI首席執行官Sam Altman、谷歌DeepMind首席執行官Demis Hass和Anthropic首席執行官Dario Amode三大AI公司掌門人等。

圖靈獎獲得者、被譽爲人工智能“教父”的Geoffrey Hinton和Yoshua Bengio也赫然在列。

名單裏也不乏中國學者的身影,包括中國工程院院士、清華大學智能產業研究院(AIR)院長張亞勤,中國科學院自動化研究所人工智能倫理與治理研究中心主任曾毅,清華大學副教授詹仙園。

其他籤署人還包括微軟首席技術官Kevin Scott,前聯合國裁軍事務高級代表Angela Kane,Skype聯合創始人Jaan Tallinn,Quora首席執行官Adam D'Angelo。

他們表示,雖然公衆一直在承認人工智能的風險,但還有更多挑战需要討論。他們還想“爲越來越多的專家和公衆人物創造共同知識,他們也認真對待先進人工智能領域存在的一些最嚴重的風險”。

值得一提的是,目前,微軟創始人比爾蓋茨沒有籤署這一聯名信。

“危險!立刻停下所有大型AI研究” 自去年ChatGPT發布以來,科技行業掀起了一場競爭激烈的AI競賽,同時也引發公衆對於這項未知技術的恐懼。

今年3月份,Bengio、馬斯克、蘋果聯合創始人Steve Wozniak、Stability AI創始人Emad Mostaque等科技大佬發表聯名公开信,呼籲暫停比GPT-4更強大的人工智能系統的訓練,暫停時間至少爲6個月。

公开信強調了AI在迅猛發展,但卻沒有對其進行相應的規劃和管理:

“最近幾個月人工智能實驗室掀起AI狂潮,它們瘋狂地开展AI競賽,开發和部署越來越強大的AI。

不幸的是,目前爲止,沒有任何人能理解、預測或可靠地控制AI系統,也沒有相應水平的規劃和管理。”

信中提到,如今人工智能在一般任務上變得與人類一樣有競爭力,我們必須問自己:

“是否應該开發非人類的大腦,使其最終超過人類數量,勝過人類的智慧,淘汰並取代人類?

是否應該冒着失去對人類文明控制的風險?

答案是否定的,公开信指出,只有當我們確信強大的AI系統的效果是積極的,其風險是可控的,才應該开發。

因此,公开信呼籲所有人工智能實驗室立即暫停比GPT-4更強大的人工智能系統的訓練,時間至少持續6個月。

“我們應該從危險的競賽中退後一步,……讓如今最強大的模型更加准確、安全

讓我們享受一個漫長的人工智能夏天,而不是毫無准備地匆忙進入秋天。”

AI教父:痛悔畢生工作,無法阻止人類AI大战 5月初,深度學習泰鬥、人工智能教父Geoffrey Hinton突然宣布離職谷歌,終於可以暢所欲言地談論AI的風險了。

正是對人工智能風險深深地擔憂,讓這位深度學習巨佬直言:“我對自己的畢生工作,感到非常後悔。”

在媒體報道中,Hinton直接警示世人:注意,前方有危險,前方有危險,前方有危險!

在一次採訪中,Hinton表示“我們幾乎已經讓學會計算機如何自我改進了,這很危險,我們必須認真考慮,如何控制它。

他曾指出,谷歌和微軟,以及其他公司之間的競爭,將升級爲一場全球性競賽。如果沒有某種全球性的監管,這場競賽將不會停止!

他表示自己很擔憂,GPT-4迭代會對人類構成威脅,強AI從大量數據中能夠學到意想不到的行爲。

他擔心有一天真正的自主武器那些殺人機器人會成爲現實。圖片來自《西部世界》 上世紀80年代,Hinton曾是卡內基梅隆大學的計算機科學教授,但因爲不愿接受五角大樓的資助,他選擇了離开CMU,前往加拿大。當時,Hinton強烈反對在战場上使用AI,他將其稱爲「機器人士兵」。 從人工智能的开創者到末日預言者,Hinton的轉變,也許標志着科技行業正處於幾十年來最重要的一個拐點。

本文不構成個人投資建議,不代表平台觀點,市場有風險,投資需謹慎,請獨立判斷和決策。

你擔心AI失控嗎?


追加內容

本文作者可以追加內容哦 !

鄭重聲明:本文版權歸原作者所有,轉載文章僅為傳播信息之目的,不構成任何投資建議,如有侵權行為,請第一時間聯絡我們修改或刪除,多謝。



標題:“AI可能滅絕人類,堪比核战爭!” 超350位大佬聯名發聲

地址:https://www.breakthing.com/post/63456.html