事關(guān)生成式人工智能服務(wù) 國家網(wǎng)信辦出手 數(shù)據(jù)安全產(chǎn)業(yè)發(fā)展政策規(guī)范

• 李波 2023年4月12日 來源：中研普華集團(tuán)、央視財經(jīng)、中研網(wǎng) 965 60
• 繁體

據(jù)國家互聯(lián)網(wǎng)信息辦公室官網(wǎng)消息，為促進(jìn)生成式人工智能技術(shù)健康發(fā)展和規(guī)范應(yīng)用，根據(jù)《中華人民共和國網(wǎng)絡(luò)安全法》等法律法規(guī)，國家互聯(lián)網(wǎng)信息辦公室起草了《生成式人工智能服務(wù)管理辦法(征求意見稿)》(以下簡稱《征求意見稿》)，其中提出生成式人工智能產(chǎn)品提供服

據(jù)國家互聯(lián)網(wǎng)信息辦公室官網(wǎng)消息，為促進(jìn)生成式人工智能技術(shù)健康發(fā)展和規(guī)范應(yīng)用，根據(jù)《中華人民共和國網(wǎng)絡(luò)安全法》等法律法規(guī)，國家互聯(lián)網(wǎng)信息辦公室起草了《生成式人工智能服務(wù)管理辦法(征求意見稿)》(以下簡稱《征求意見稿》)，其中提出生成式人工智能產(chǎn)品提供服務(wù)前需申報安全評估。

生成式人工智能，是指基于算法、模型、規(guī)則生成文本、圖片、聲音、視頻、代碼等內(nèi)容的技術(shù)?！墩髑笠庖姼濉芬?，利用生成式人工智能產(chǎn)品向公眾提供服務(wù)前，應(yīng)當(dāng)按照《具有輿論屬性或社會動員能力的互聯(lián)網(wǎng)信息服務(wù)安全評估規(guī)定》向國家網(wǎng)信部門申報安全評估，并按照《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》履行算法備案和變更、注銷備案手續(xù)。

《征求意見稿》指出，國家支持人工智能算法、框架等基礎(chǔ)技術(shù)的自主創(chuàng)新、推廣應(yīng)用、國際合作，鼓勵優(yōu)先采用安全可信的軟件、工具、計算和數(shù)據(jù)資源。

提供生成式人工智能產(chǎn)品或服務(wù)應(yīng)當(dāng)遵守法律法規(guī)的要求，尊重社會公德、公序良俗，符合以下五方面要求。

一是：利用生成式人工智能生成的內(nèi)容應(yīng)當(dāng)體現(xiàn)社會主義核心價值觀，不得含有顛覆國家政權(quán)、推翻社會主義制度，煽動分裂國家、破壞國家統(tǒng)一，宣揚恐怖主義、極端主義，宣揚民族仇恨、民族歧視，暴力、淫穢色情信息，虛假信息，以及可能擾亂經(jīng)濟(jì)秩序和社會秩序的內(nèi)容。

二是：在算法設(shè)計、訓(xùn)練數(shù)據(jù)選擇、模型生成和優(yōu)化、提供服務(wù)等過程中，采取措施防止出現(xiàn)種族、民族、信仰、國別、地域、性別、年齡、職業(yè)等歧視。

三是：尊重知識產(chǎn)權(quán)、商業(yè)道德，不得利用算法、數(shù)據(jù)、平臺等優(yōu)勢實施不公平競爭。

四是：利用生成式人工智能生成的內(nèi)容應(yīng)當(dāng)真實準(zhǔn)確，采取措施防止生成虛假信息。

五是：尊重他人合法利益，防止傷害他人身心健康，損害肖像權(quán)、名譽權(quán)和個人隱私，侵犯知識產(chǎn)權(quán)。禁止非法獲取、披露、利用個人信息和隱私、商業(yè)秘密。

此外，《征求意見稿》提出， 提供者在提供服務(wù)過程中，對用戶的輸入信息和使用記錄承擔(dān)保護(hù)義務(wù)。不得非法留存能夠推斷出用戶身份的輸入信息，不得根據(jù)用戶輸入信息和使用情況進(jìn)行畫像，不得向他人提供用戶輸入信息。法律法規(guī)另有規(guī)定的，從其規(guī)定。

提供者不得根據(jù)用戶的種族、國別、性別等進(jìn)行帶有歧視性的內(nèi)容生成。

目前，各大科技巨頭陸續(xù)推出相關(guān)數(shù)據(jù)大模型，產(chǎn)品涵蓋語言、礦業(yè)、制造、電商、搜索引擎等多個領(lǐng)域。有機(jī)構(gòu)指出，隨著各類大模型逐步落地，對應(yīng)的數(shù)據(jù)需求有望持續(xù)增長，擁有數(shù)據(jù)的相關(guān)公司有望受益。

此外，國家網(wǎng)信辦近日也發(fā)布了《生成式人工智能服務(wù)管理辦法(征求意見稿)》，數(shù)據(jù)要素生態(tài)得到進(jìn)一步完善。受消息提振，數(shù)據(jù)要素、數(shù)據(jù)確權(quán)等相關(guān)數(shù)據(jù)產(chǎn)業(yè)鏈個股今日大幅走強(qiáng)。

生成式人工智能服務(wù)管理辦法發(fā)布 我國數(shù)據(jù)安全產(chǎn)業(yè)發(fā)展政策規(guī)范

隨著AI在各行業(yè)滲透率不斷提升，各國均加快對相關(guān)領(lǐng)域的政策規(guī)范，目前，各類大模型不斷涌現(xiàn)，其所使用數(shù)據(jù)的安全性和合法性也成為監(jiān)管的關(guān)鍵要點。

近年來，我國數(shù)據(jù)安全相關(guān)政策也陸續(xù)落地，今年年初，工業(yè)和信息化部、國家網(wǎng)信辦、國家發(fā)展改革委等十六個部門聯(lián)合發(fā)布《關(guān)于促進(jìn)數(shù)據(jù)安全產(chǎn)業(yè)發(fā)展的指導(dǎo)意見》，文件中明確，到2025年，數(shù)據(jù)安全產(chǎn)業(yè)基礎(chǔ)能力和綜合實力明顯增強(qiáng)。

國家互聯(lián)網(wǎng)信息辦公室發(fā)布《生成式人工智能服務(wù)管理辦法(征求意見稿)》(以下簡稱“《征求意見稿》”)對生成式人工智能服務(wù)提供者及其產(chǎn)品提出了多項規(guī)制。

一天前，中國支付清算協(xié)會發(fā)布《關(guān)于支付行業(yè)從業(yè)人員謹(jǐn)慎使用ChatGPT等工具的倡議》(以下簡稱“《倡議》”)，倡議相關(guān)單位不上傳關(guān)鍵敏感信息，包括國家及金融行業(yè)涉密文件及數(shù)據(jù)、公司非公開的材料及數(shù)據(jù)、客戶資料、支付清算基礎(chǔ)設(shè)施或系統(tǒng)的核心代碼等。

此前，全球范圍內(nèi)發(fā)生了多起因使用ChatGPT導(dǎo)致的數(shù)據(jù)泄露事件。意大利、加拿大等國監(jiān)管機(jī)構(gòu)先后宣布將關(guān)注ChatGPT及其背后公司OpenAI帶來的數(shù)據(jù)安全風(fēng)險，并將開啟監(jiān)管調(diào)查。

對于近期生成式人工智能引發(fā)的數(shù)據(jù)安全問題，受訪專家建議，應(yīng)關(guān)注人工智能領(lǐng)域的新興監(jiān)管工具;同時，可以考慮將代表性人工智能公司納入治理體系，同監(jiān)管機(jī)關(guān)合作開發(fā)與技術(shù)發(fā)展和市場競爭相適應(yīng)的監(jiān)管框架。

根據(jù)中研普華研究院《2023-2028年中國數(shù)據(jù)安全服務(wù)市場深度分析及發(fā)展趨勢預(yù)測報告》顯示：

數(shù)據(jù)安全是數(shù)字經(jīng)濟(jì)產(chǎn)業(yè)的基石之一。

數(shù)據(jù)安全產(chǎn)業(yè)鏈主要包括上游安全芯片等軟硬件供應(yīng)商，中游防火墻、VPN、商用密碼、數(shù)據(jù)要素等產(chǎn)品與解決方案提供商，下游應(yīng)用則涵蓋政府、國防、電信、金融、能源等關(guān)鍵領(lǐng)域。

我國十分重視數(shù)字技術(shù)發(fā)展，同時也關(guān)注人工智能發(fā)展過程中的風(fēng)險和問題。2023年1月份，工業(yè)和信息化部等十六部門聯(lián)合印發(fā)《關(guān)于促進(jìn)數(shù)據(jù)安全產(chǎn)業(yè)發(fā)展的指導(dǎo)意見》提出，提升產(chǎn)業(yè)創(chuàng)新能力，加強(qiáng)核心技術(shù)攻關(guān)。

到2025年，我國數(shù)據(jù)安全產(chǎn)業(yè)規(guī)模超過1500億元，年復(fù)合增長率超過30%，將建成5個省部級及以上數(shù)據(jù)安全重點實驗室，培育若干具有國際競爭力的龍頭骨干企業(yè)、單項冠軍企業(yè)和專精特新“小巨人”企業(yè)。

從網(wǎng)絡(luò)安全法、數(shù)據(jù)安全法、個人信息保護(hù)法相繼實施，到去年《中共中央 國務(wù)院關(guān)于構(gòu)建數(shù)據(jù)基礎(chǔ)制度更好發(fā)揮數(shù)據(jù)要素作用的意見》(以下簡稱“數(shù)據(jù)二十條”)出臺，近年來，我國數(shù)據(jù)信息保護(hù)的制度“籬笆”不斷扎牢，充分回應(yīng)了廣大群眾的共同關(guān)切。

中國電子技術(shù)標(biāo)準(zhǔn)化研究院黨委書記、副院長，中國網(wǎng)絡(luò)安全產(chǎn)業(yè)聯(lián)盟(CCIA)秘書長楊建軍表示，國家、社會、企業(yè)在數(shù)據(jù)安全與更新保護(hù)方面做了大量工作，法律法規(guī)、政策文件、標(biāo)準(zhǔn)規(guī)范逐年增加完善。

但同時，隨著社會、技術(shù)、產(chǎn)業(yè)及新興技術(shù)應(yīng)用的發(fā)展，數(shù)據(jù)安全問題也正在不斷演進(jìn)，需要更創(chuàng)新的治理模式和方法。

針對如何解決“數(shù)據(jù)看不見、風(fēng)險搞不清、監(jiān)管欠細(xì)化”等問題，北京理工大學(xué)法學(xué)院教授洪延青強(qiáng)調(diào)，要從動態(tài)的角度去理解數(shù)據(jù)安全的概念。

“動態(tài)就是隨著情況的變化，很多原本沒有問題的事情也會發(fā)生問題?！彼赋?，不能簡單地把數(shù)據(jù)安全理解成數(shù)據(jù)的保密性、完整性、可用性，應(yīng)該形成包括合規(guī)在內(nèi)的“大安全”概念，在“數(shù)據(jù)二十條”的背景下，從動態(tài)的角度實現(xiàn)“關(guān)系型安全治理”，即在管理規(guī)則基礎(chǔ)上，用技術(shù)支撐管理規(guī)則落地，保障管理規(guī)則可視、可控、可干預(yù)。

“落實數(shù)據(jù)安全和個人信息保護(hù)，各個主體行動缺一不可?！敝袊茖W(xué)院信息工程研究所工程師李敏表示，從相繼實施的國家法律層面可以看出，維護(hù)數(shù)據(jù)安全和個人信息保護(hù)需要政府、企業(yè)、相關(guān)行業(yè)組織共同參與，維護(hù)網(wǎng)絡(luò)空間良好生態(tài)。

多位行業(yè)從業(yè)者還指出，目前互聯(lián)網(wǎng)企業(yè)正面臨一個數(shù)據(jù)安全風(fēng)險事件頻發(fā)的大環(huán)境，數(shù)據(jù)泄露、個人信息違規(guī)使用與違規(guī)收集事件頻繁發(fā)生。這從另一方面要求相關(guān)企業(yè)從產(chǎn)品自身設(shè)計上加強(qiáng)用戶權(quán)益保障，積極參與行業(yè)標(biāo)準(zhǔn)建設(shè)，積極推動合規(guī)要求落地。

《2023-2028年中國數(shù)據(jù)安全服務(wù)市場深度分析及發(fā)展趨勢預(yù)測報告》由中研普華研究院撰寫，本報告對該行業(yè)的供需狀況、發(fā)展現(xiàn)狀、行業(yè)發(fā)展變化等進(jìn)行了分析，重點分析了行業(yè)的發(fā)展現(xiàn)狀、如何面對行業(yè)的發(fā)展挑戰(zhàn)、行業(yè)的發(fā)展建議、行業(yè)競爭力，以及行業(yè)的投資分析和趨勢預(yù)測等等。報告還綜合了行業(yè)的整體發(fā)展動態(tài)，對行業(yè)在產(chǎn)品方面提供了參考建議和具體解決辦法。

• 相關(guān)深度報告REPORTS

  

  2023-2028年中國數(shù)據(jù)安全服務(wù)市場深度分析及發(fā)展趨勢預(yù)測報告

  隨著數(shù)據(jù)安全服務(wù)行業(yè)競爭的不斷加劇，大型企業(yè)間并購整合與資本運作日趨頻繁，國內(nèi)外優(yōu)秀的數(shù)據(jù)安全服務(wù)企業(yè)愈來愈重視對行業(yè)市場的分析研究，特別是對當(dāng)前市場環(huán)境和客戶需求趨勢變化的深入研...

  查看詳情

延伸閱讀

推薦閱讀

猜您喜歡