《電子技術應用》
您所在的位置:首頁 > 人工智能 > 設計應用 > 生成式人工智能嵌入數(shù)字政府的數(shù)據(jù)安全風險及其法律規(guī)制
生成式人工智能嵌入數(shù)字政府的數(shù)據(jù)安全風險及其法律規(guī)制
網(wǎng)絡安全與數(shù)據(jù)治理
鄒煥聰,王慶
南京工業(yè)大學法政學院
摘要: 生成式人工智能深度嵌入數(shù)字政府意義重大,但其引發(fā)的全周期數(shù)據(jù)安全風險不容忽視。通過解構(gòu)數(shù)據(jù)“收集—處理—存儲—輸出”四階段風險,發(fā)現(xiàn)收集階段存在安全與質(zhì)量隱患,處理階段面臨算法歧視與黑箱挑戰(zhàn),存儲環(huán)節(jié)有數(shù)據(jù)泄露與歸責困境,輸出階段則涉及數(shù)據(jù)失真與侵權風險。借鑒歐盟“先監(jiān)管后發(fā)展”和美國“技術驅(qū)動立法”經(jīng)驗,提出分階規(guī)制框架:收集階段實行分類分級與源頭審查,處理階段強化倫理審查與清單管理,存儲階段構(gòu)建軟硬法協(xié)同標準與公私合作責任模式,輸出階段引入沙箱監(jiān)管與數(shù)字確權。以此推動數(shù)字政府建設,實現(xiàn)科技、風險治理與安全法治的協(xié)同共進。
中圖分類號:D922;TP399文獻標識碼:ADOI:10.19358/j.issn.2097-1788.2025.07.008
引用格式:鄒煥聰,王慶. 生成式人工智能嵌入數(shù)字政府的數(shù)據(jù)安全風險及其法律規(guī)制[J].網(wǎng)絡安全與數(shù)據(jù)治理,2025,44(7):50-57.
Generative artificial intelligence embedded in digital government′s data security risks and legal regulation
Zou Huancong, Wang Qing
College of Law and Politics, Nanjing Tech University
Abstract: Generative AI′s deep integration into digital government is significant, but its full-cycle data security risks cannot be ignored. Risks in the four stages of "collection-processing-storage-output" include: collection security/quality issues, processing-stage algorithmic bias/black boxes, storage leakage/accountability gaps, and output distortion/infringement. Drawing on EU "regulate-first" and US "technology-driven" approaches, a phased framework is proposed: classification/source review for collection, ethical audits/list management for processing, soft-hard law collaboration/public-private risk sharing for storage, and sandbox regulation/digital rights confirmation for output. This promotes digital government development and balances technology, risk governance, and legal safeguards.
Key words : generative AI; digital government; data security; administrative rule of law; legal regulation

引言

數(shù)字政府建設是“十四五”期間乃至2035年之前國家治理的核心任務[1]。數(shù)字政府借助人工智能技術賦能突破傳統(tǒng)行政模式的效能瓶頸,在全面深化行政體制改革、推進國家治理體系和治理能力現(xiàn)代化,增進民生福祉等方面具有重大意義。然而,生成式人工智能的深度嵌入正引發(fā)“技術賦能悖論”——該技術雖在政務智能問答(如北京“京京”系統(tǒng)響應準確率達92%)[2]、政策模擬推演(如宜賓經(jīng)濟監(jiān)測平臺實現(xiàn)GDP預測誤差率<3%)等場景展現(xiàn)應用優(yōu)勢,其引發(fā)的數(shù)據(jù)安全風險卻呈現(xiàn)全周期擴散特性。

我國雖已初步構(gòu)建由《網(wǎng)絡安全法》《數(shù)據(jù)安全法》《個人信息保護法》組成的數(shù)據(jù)規(guī)范法律體系以及《互聯(lián)網(wǎng)信息服務算法推薦管理規(guī)定》《互聯(lián)網(wǎng)信息服務深度合成管理規(guī)定》《生成式人工智能服務管理暫行辦法》(以下簡稱《暫行辦法》)等共同組成的生成式人工智能法律規(guī)制體系[3],但在具體細節(jié)與銜接上存在不足之處,形成“技術賦能”與“規(guī)制真空”并存的結(jié)構(gòu)性困境。

數(shù)據(jù)為生成式人工智能的運行提供“原料”,同時也是人工智能開發(fā)運用與發(fā)展的“基石”[4]。既有研究多聚焦人工智能倫理或政府數(shù)字化轉(zhuǎn)型宏觀路徑,對于生成式人工智能技術特性與數(shù)據(jù)治理的適配性研究存在三重局限:風險識別缺乏全周期框架、規(guī)制依賴事后模式、責任分配拘泥于政企二元結(jié)構(gòu),尚未充分回應生成式人工智能技術特性與數(shù)據(jù)治理的適配性問題。

基于此,本文創(chuàng)新性采用技術規(guī)制理論解構(gòu)生成式人工智能的數(shù)據(jù)風險,通過考察多個政務智能化項目的合規(guī)性案例,提出“技術歸化法律”的新型治理范式。該研究為破解技術賦能與數(shù)據(jù)治理的價值沖突提供實證支撐,實現(xiàn)科技賦能與風險規(guī)避的邏輯統(tǒng)一,將我國數(shù)字政府的建設和發(fā)展納入法治軌道。


本文詳細內(nèi)容請下載:

http://m.theprogrammingfactory.com/resource/share/2000006614


作者信息:

鄒煥聰,王慶

(南京工業(yè)大學法政學院,江蘇南京211816)


Magazine.Subscription.jpg

此內(nèi)容為AET網(wǎng)站原創(chuàng),未經(jīng)授權禁止轉(zhuǎn)載。