圖片來自《終結者》

“電影《終結者》中的情境會不會發生？”

英偉達市值一度超過萬億美元，AI風頭正盛的背後，公衆的擔憂也越來越多，科技圈再次流出了一封重磅公开信。

當地時間5月30日，非營利組織“人工智能安全中心”（Center for AI Safety）在其官網發布一封聯名公开信，稱AI這一堪比“疫情和核战爭”的技術或對人類構成生存威脅。
整個聲明只有一句話，22個單詞：

“減輕人工智能帶來的滅絕風險，應該與大流行病和核战爭等其他社會規模的風險級別一樣，成爲一個全球性的優先事項。”

拜登政府近幾個月表示，人工智能對公共安全、隱私和民主構成威脅，但政府對其監管的權力有限。

OpenAI創始人領銜，超350位AI大佬籤名 目前已有超350位AI大佬籤署了上述聯名公开信，包括OpenAI首席執行官Sam Altman、谷歌DeepMind首席執行官Demis Hass和Anthropic首席執行官Dario Amode三大AI公司掌門人等。

圖靈獎獲得者、被譽爲人工智能“教父”的Geoffrey Hinton和Yoshua Bengio也赫然在列。

名單裏也不乏中國學者的身影，包括中國工程院院士、清華大學智能產業研究院（AIR）院長張亞勤，中國科學院自動化研究所人工智能倫理與治理研究中心主任曾毅，清華大學副教授詹仙園。

其他籤署人還包括微軟首席技術官Kevin Scott，前聯合國裁軍事務高級代表Angela Kane，Skype聯合創始人Jaan Tallinn，Quora首席執行官Adam D'Angelo。

他們表示，雖然公衆一直在承認人工智能的風險，但還有更多挑战需要討論。他們還想“爲越來越多的專家和公衆人物創造共同知識，他們也認真對待先進人工智能領域存在的一些最嚴重的風險”。

值得一提的是，目前，微軟創始人比爾蓋茨沒有籤署這一聯名信。

“危險！立刻停下所有大型AI研究” 自去年ChatGPT發布以來，科技行業掀起了一場競爭激烈的AI競賽，同時也引發公衆對於這項未知技術的恐懼。

今年3月份，Bengio、馬斯克、蘋果聯合創始人Steve Wozniak、Stability AI創始人Emad Mostaque等科技大佬發表聯名公开信，呼籲暫停比GPT-4更強大的人工智能系統的訓練，暫停時間至少爲6個月。

公开信強調了AI在迅猛發展，但卻沒有對其進行相應的規劃和管理：

“最近幾個月人工智能實驗室掀起AI狂潮，它們瘋狂地开展AI競賽，开發和部署越來越強大的AI。

不幸的是，目前爲止，沒有任何人能理解、預測或可靠地控制AI系統，也沒有相應水平的規劃和管理。”

信中提到，如今人工智能在一般任務上變得與人類一樣有競爭力，我們必須問自己：

“是否應該开發非人類的大腦，使其最終超過人類數量，勝過人類的智慧，淘汰並取代人類？

是否應該冒着失去對人類文明控制的風險？”

答案是否定的，公开信指出，只有當我們確信強大的AI系統的效果是積極的，其風險是可控的，才應該开發。

因此，公开信呼籲所有人工智能實驗室立即暫停比GPT-4更強大的人工智能系統的訓練，時間至少持續6個月。

“我們應該從危險的競賽中退後一步，……讓如今最強大的模型更加准確、安全。

讓我們享受一個漫長的人工智能夏天，而不是毫無准備地匆忙進入秋天。”

AI教父：痛悔畢生工作，無法阻止人類AI大战 5月初，深度學習泰鬥、人工智能教父Geoffrey Hinton突然宣布離職谷歌，終於可以暢所欲言地談論AI的風險了。

正是對人工智能風險深深地擔憂，讓這位深度學習巨佬直言：“我對自己的畢生工作，感到非常後悔。”

在媒體報道中，Hinton直接警示世人：注意，前方有危險，前方有危險，前方有危險！

在一次採訪中，Hinton表示“我們幾乎已經讓學會計算機如何自我改進了，這很危險，我們必須認真考慮，如何控制它。”

他曾指出，谷歌和微軟，以及其他公司之間的競爭，將升級爲一場全球性競賽。如果沒有某種全球性的監管，這場競賽將不會停止！

他表示自己很擔憂，GPT-4迭代會對人類構成威脅，強AI從大量數據中能夠學到意想不到的行爲。

他擔心有一天真正的自主武器那些殺人機器人會成爲現實。圖片來自《西部世界》 上世紀80年代，Hinton曾是卡內基梅隆大學的計算機科學教授，但因爲不愿接受五角大樓的資助，他選擇了離开CMU，前往加拿大。當時，Hinton強烈反對在战場上使用AI，他將其稱爲「機器人士兵」。 從人工智能的开創者到末日預言者，Hinton的轉變，也許標志着科技行業正處於幾十年來最重要的一個拐點。

本文不構成個人投資建議，不代表平台觀點，市場有風險，投資需謹慎，請獨立判斷和決策。

你擔心AI失控嗎？

追加內容

本文作者可以追加內容哦 !