搶佔監管先機 歐盟《人工智能法案》進入最終談判
1年前

  □ 法治日報記者 王衛

  據德新社近日報道,歐洲議會全體會議以499票贊成、28票反對、93票棄權的壓倒性優勢表決通過了《人工智能法案》授權草案。這意味着,法案進入歐盟立法嚴格監管人工智能技術應用的最終談判階段,歐洲議會、歐盟委員會和成員國將進行“三方”談判,以確定法案的最終條款。德國《商報》稱,《人工智能法案》預計將在今年年底獲得最終批准,不過距離完全生效可能還需數年時間。

  做好談判准備

  報道稱,歐洲議會決定對ChatGPT等生成式人工智能工具增加更多安全控制措施,以確保人工智能的研發和應用符合歐盟相關法律法規。

  作爲全球首部通過議會程序、專門針對人工智能的綜合性立法,草案從安全、隱私、透明度以及非歧視等方面制定了詳細規則。據歐洲議會網站消息,歐洲議會“爲制定史上首部人工智能法案已經做好談判准備”。按照立法議程,歐洲議會將就這一授權草案與歐盟委員會和成員國進行“三方”談判,歐洲立法者希望在今年年底前就法案的最終版本達成共識。

  今年5月,歐洲議會市場委員會和公民自由委員會通過歐盟委員會於2021年4月提出的《人工智能法案》提案的談判授權草案。此前,歐洲議會和歐盟理事會已就草案進行多輪修訂和討論,並且在ChatGPT等生成式人工智能應用橫空出世後,歐盟立法者緊急商討了原版本草案中未涵蓋的問題。歐洲議會聲明,這部提案如正式獲得批准,將成爲全世界首部有關人工智能的法規。

  草案將適用於在歐盟境內將人工智能系統投放市場或投入使用的實體(無論該實體是在歐盟境內還是在第三國)、在歐盟境內使用人工智能系統的實體以及在第三國使用人工智能系統,但系統的輸出用於歐盟境內或對歐盟境內人員產生影響的實體。

  風險分類監管

  《人工智能法案》授權草案的一個突出特點是注重基於風險來制定監管制度,以平衡人工智能的創新發展與安全規範。草案將人工智能風險分爲不可接受的風險、高風險、有限的風險和極小的風險四級,對應不同的監管要求。其中高風險人工智能的使用必須受到嚴格監管,系統提供者和使用者都要遵守數據管理、記錄保存、透明度、人爲監管等規定,以確保系統穩定、准確和安全。對於違反規定者,草案設定了最高3000萬歐元(1歐元約合人民幣7.895元)或全球年營業額6%的罰款。

  草案嚴格禁止對人類安全造成不可接受風險的人工智能系統,包括部署潛意識或有目的操縱技術、利用人們弱點或用於社會評分的系統,並擴大了人工智能高風險領域的分類,將對人們健康、安全、基本權利或環境的危害考慮在內。草案還要求人工智能公司對其算法保持人爲控制,提供技術文件,並爲“高風險”應用建立風險管理系統,還針對ChatGPT等生成式人工智能設立專門監管制度。每個歐盟成員國都將設立一個監督機構。

  此外,引進監管沙盒(指通過設立限制性條件和制定風險管理措施,允許企業在真實的市場環境中,以真實的個人用戶與企業用戶爲對象測試創新產品、服務和商業模式)機制以管控風險和促進創新,在人工智能系統入市或投入使用前,對人工智能系統進行开發、測試和驗證降低風險。草案還提出,這一機制同樣被允許用於在現實條件下測試創新人工智能,以鼓勵人工智能企業持續創新。

  面臨重要挑战

  歐盟試圖建立一個統一的人工智能法律監管框架,是全球人工智能發展進程中一個重要的標志性事例。歐盟對人工智能進行有效法規約束的探討和嘗試都將產生全球性影響,可能引發越來越多的國家嘗試跟進相關法規的探索。

  對於歐洲議會的決定,德國社民黨表示支持:“人工智能的潛力和風險應得到全社會關注。”但也有反對者擔心監管過度可能給歐洲人工智能公司帶來更高成本和過重負擔。

  在人工智能开發方面處於領先地位的公司,某種程度上也是過去十年中面臨反壟斷違規風險、違反現行法律以及造成信息泄露危害的科技公司。基於此,OpenAI公司首席執行官薩姆·阿爾特曼表示,如果《人工智能法案》對AI進行過度監管,他將帶領團隊撤出歐洲市場。

  專家稱,歐盟推動人工智能立法,有利於維護歐盟在數字主權和科技領域的領導地位,並通過這樣一部綜合性立法搶佔全球人工智能監管先機。但其本身具有局限性。它採用的是橫向立法,並非針對特定人工智能應用領域,而是試圖把所有人工智能都納入監管範圍,在執行層面將面臨大量的解釋問題。

  有聲音進一步指出,歐盟並未就人工智能技術可能給人類帶來什么樣的影響形成共識。從辯證的角度看,人工智能既能造福和服務人類,但如若用之不善,也會給人類帶來威脅或傷害,如何平衡創新和約束是歐盟立法機構面臨的一個非常重要的挑战。此外,統一的法律框架並未涉及具體法律規範,實際的執行效果可能“大打折扣”。

  國際社會認爲,當前,人工智能技術發展仍處在探索期。歐盟此時制定《人工智能法案》,釋放出歐盟正在強化其在數字領域內建規立制的強烈信號。如何更好地平衡與銜接技術創新和制度創新,還需在實踐中不斷修正。

鄭重聲明:本文版權歸原作者所有,轉載文章僅為傳播信息之目的,不構成任何投資建議,如有侵權行為,請第一時間聯絡我們修改或刪除,多謝。



標題:搶佔監管先機 歐盟《人工智能法案》進入最終談判

地址:https://www.breakthing.com/post/74314.html