公部門生成式AI指引出爐　機密文書禁用、不...

公部門生成式AI指引出爐　機密文書禁用、不可完全信任

1年前

#Tags

生成式AI 行政院公部門 ChatGPT 公務員

公部門生成式AI指引出爐　機密文書禁用、不可完全信任

近年來生成式AI快速發展，影響遍及全球產官學研各界，有鑑於生成式AI可協助政府在處理業務或提供服務時提升效率，行政院會今（31）日通過「行政院及所屬機關使用生成式AI參考指引」，其中包括生成式AI不得取代承辦人自主思維、創造力及人際互動，另製作機密文書也禁止使用，因應AI發展日新月異，後續也將觀察全球AI發展趨勢與因應作為，持續滾動調整指引。

我是廣告請繼續往下閱讀國科會說明，近年來生成式AI快速發展，影響遍及全球產官學研各界。其中ChatGPT於2022年底發布後，更掀起全球熱潮，且功能極為多元，已被視為人工智慧之一項重大突破。參考歐盟定義，生成式AI模型是一種電腦程式，在創建類似於人類製作（human-made）的新內容。

國科會表示，生成式AI大量蒐集、學習與產出資料，可能涉及智慧財產權、人權或業務機密侵害，且其生成結果，因受限於所學習資料品質與數量，而有可能真偽難辨或創造不存在的資訊，須客觀且專業評估其產出資訊與風險。

考量行政院及所屬機關利用生成式AI協助執行業務或提供服務，有助於行政效率提升，且為保持執行公務機密性及專業性，並促使各機關使用生成式AI有一致之認知及基本原則，參考各國政府審慎因應作法，研訂「行政院及所屬機關（構）使用生成式AI參考指引」，供各機關依循。

國科會表示，衡酌AI發展具重要性且與資訊安全及國家安全息息相關，指引明確揭示各機關人員使用生成式AI時，應秉持負責任及可信賴態度，掌握自主權與控制權，並秉持安全性、隱私性與資料治理、問責等原則，不得恣意揭露未經公開公務資訊、不得分享個人隱私資訊及不可完全信任生成資訊。因AI發展日新月異，後續也將觀察全球AI發展趨勢與因應作為，持續滾動修正本參考指引。

指引共計十點如下：

一、為使行政院及所屬機關（構）（以下簡稱各機關）使用生成式AI提升行政效率，並避免其可能帶來之國家安全、資訊安全、人權、隱私、倫理及法律等風險，特就各機關使用生成式AI應注意之事項，訂定本參考指引。

二、生成式AI產出之資訊，須由業務承辦人就其風險進行客觀且專業之最終判斷，不得取代業務承辦人之自主思維、創造力及人際互動。

三、製作機密文書應由業務承辦人親自撰寫，禁止使用生成式AI。前項所稱機密文書，指行政院「文書處理手冊」所定之國家機密文書及一般公務機密文書。

四、業務承辧人不得向生成式AI提供涉及公務應保密、個人及未經機關（構）同意公開之資訊，亦不得向生成式AI詢問可能涉及機密業務或個人資料之問題。但封閉式地端部署之生成式AI模型，須確認系統環境安全性後，方得依機密等級分級使用。

五、各機關不可完全信任生成式AI產出之資訊，亦不得以未經確認之產出內容直接作成行政行為或作為公務決策之唯一依據。

六、各機關使用生成式AI作為執行業務或提供服務輔助工具時，應適當揭露。

七、使用生成式AI應遵守資通安全、個人資料保護、著作權與相關資訊使用規定，並注意其侵害智慧財產權與人格權之可能性。各機關得依使用生成式AI之設備及業務性質，訂定使用生成式AI之規範或內控管理措施。

八、各機關應就所辦採購事項，要求得標之法人、團體或個人注意本參考指引，並遵守各該機關依前點所訂定之規範或內控管理措施。

九、公營事業機構、公立學校、行政法人及政府捐助之財團法人使用生成式AI，得準用本參考指引。

十、行政院及所屬機關（構）以外之機關得參照本參考指引，訂定各該機關使用生成式AI之規範。