公部門禁用ChatGPT?唐鳳:正研議指引、不連外網使用更安全
1年前
桃園市政府計畫將ChatGPT運用在1999市府專線、台南市將率先開發ChatGPT教學模組,立委擔憂公部門或民間企業使用ChatGPT有個資、機密內容外洩等資安疑慮。數位發展部長唐鳳今(11)日指出,國科會正研議「公務機關使用生成式AI參考指引」,建議2大原則,一是小心無中生有的內容、二是採地端、不連外網的方式使用生成式AI會更安全。

我是廣告 請繼續往下閱讀 立法院交通委員會今天邀請數位部長唐鳳、財政部、國家科學及技術委員會就「網路報稅、ChatGPT等使用率高,數位發展部如何協助使用者防止資安外洩」進行專題報告,並備質詢。

立委李昆澤指出,目前各國政府或企業都有應用ChatGPT的案例,日本神奈川縣橫須賀市使用ChatGPT協助處理公務、法國有醫師用來撰寫病例、桃園市也運用ChatGPT整理陳情電話資訊、台南市則用以輔助教學;但也有政府採保守觀點,日本鳥取縣基於資安疑慮,禁止公務員安裝使用ChatGPT,美國認為AI技術引起資安疑慮,商務部國家電信暨資訊署向民眾徵詢相關規範意見,義大利發生過對答標題、內容外洩,而明令禁用,想詢問台灣是否應明定公務員禁用ChatGPT等生成式AI?對於個資保護、內容外洩等,有何具體建議與做法?

唐鳳回應,義大利要求ChatGPT調整規範後,已解除禁令,目前國科會正召集各部會研議「公務機關使用生成式AI參考指引」,有2大重要原則,其一是運用生成式AI跟搜尋引擎不同,搜尋引擎查到的都是已經出現在網路上的資料,生成式AI則會無中生有,常常生成出自以為有道理,卻非事實的內容,因此建議在公務使用上,不該直接任由生成式AI判斷、直接交出生成內容。

唐鳳說,其二就是個資問題,公部門若透過完全可掌控的地端機器來使用相關技術,就能解決,國科會正在做「可信賴AI對話引擎」,年底前模型出來就能使用。

李昆澤表示,除公部門外,民間企業使用也很危險,Cyberhaven資安服務商統計旗下企業用戶160名員工後發現,8.2%員工在職場使用ChatGPT、3.1%將不能外流的資料上傳,以企業機密資料為多,其次是顧客資料;三星電子也從開放轉為禁用,今年4月初發生三起資料洩漏事件,包含提供應用程式原始碼、協助辨識晶片缺陷、生成會議記錄等,5月禁止員工使用ChatGPT。

唐鳳說,企業資料本來就不該外流,現在問題是大家覺得語言模型方便、產生依賴性,若企業內部能夠部署地端語言模型功能,好用程度跟ChatGPT一樣的話,就不會去使用線上的ChatGPT,而有外流風險。目前數位部旗下的資安院正在打造AI框架,包括產品資安及演算法的檢測,預期下半年將與工研院啟動相關計畫,國科會在年底會推出「可信賴AI對話引擎」,資安院將針對中間開發版本進行驗證。

唐鳳會中受訪解釋,不論是公部門、企業,任何組織都應該採地端或與信任的本地雲端業者合作,也就是租別人的電腦來使用,才不會將資料都上傳到免費公有雲,而引發資料外洩的疑慮。以圖片生成為例,可以付錢租「Midjourney」,打字就能繪出圖案,也能把開源的「Stable Diffusion」下載到筆電裡,不須連網就能使用,現在文字生成也有同樣機制。

唐鳳說,採地端使用比較沒有資料外洩問題,且不連網也能回答即時問題,相關原理是把網際網路公開文字,進行大規模壓縮,最多幾GB、幾十GB的資料檔,包含網路大量文字特徵,不用再連上網,就能生成新文字。

唐鳳強調,不論是公務或任何機關,對於處理他人個資或有資安疑慮時,越靠近地端部署,越不會外流,而在租用本地雲時,則要確定合約裡的注意義務不弱於機關所提出的注意義務,簡言之,不連外網會安全很多。

桃園測試ChatGPT分析1999案件 市府:無提供個資絕無外洩問題

金融業要用ChatGPT 金管會多管齊下監理、納金檢加強個資保護

呼籲政府ChatGPT防患未然 侯友宜:可以載舟也可以覆舟

還不到20天!三星才導入ChatGPT 爆3起機密資料外洩意外

鄭重聲明:本文版權歸原作者所有,轉載文章僅為傳播信息之目的,不構成任何投資建議,如有侵權行為,請第一時間聯絡我們修改或刪除,多謝。



標題:公部門禁用ChatGPT?唐鳳:正研議指引、不連外網使用更安全

地址:https://www.breakthing.com/post/57478.html