·相比4月發布的《生成式人工智能服務管理辦法（征求意見稿）》，新出臺的《生成式人工智能服務管理暫行辦法》在多處放寬了監管要求，并增加了鼓勵人工智能技術發展的措施。

·《辦法》提出，總體實行包容審慎和分類分級監管，堅持發展和安全并重、促進創新和依法治理相結合的原則，并明確生成式AI實施算法的“備案制”，這與此前預期的審核許可制不同。

7月13日，國家網信辦聯合國家發展改革委、教育部、科技部、工業和信息化部、公安部、國家廣電總局公布《生成式人工智能服務管理暫行辦法》（以下稱《辦法》），自2023年8月15日起施行。這是中國首次對生成式AI研發及服務作出明確規定。

國家互聯網信息辦公室有關負責人表示，出臺《辦法》，旨在促進生成式人工智能健康發展和規范應用，維護國家安全和社會公共利益，保護公民、法人和其他組織的合法權益。

今年4月，《生成式人工智能服務管理辦法（征求意見稿）》（以下簡稱《征求意見稿》）發布，3個多月后，《辦法》正式公布。對比這兩份文件，存在一些差別。

最新出臺的《辦法》共24條，內容主要體現在幾個方面。

第一，明確了適用范圍。《辦法》規定，利用生成式人工智能技術向中華人民共和國境內公眾提供生成文本、圖片、音頻、視頻等內容的服務，適用本辦法。而在《征求意見稿》第二條中，只要是向境內用戶提供服務，不論是“研發”生成式AI還是“利用”生成式AI，都屬于監管范圍。《征求意見稿》還將生成“代碼”也歸入監管范圍，《辦法》則在列舉生成式內容時沒有提到“代碼”。從這一部分看，《辦法》相比《征求意見稿》縮小了監管范圍。

值得注意的是，《辦法》規定，國家對利用生成式人工智能服務從事新聞出版、影視制作、文藝創作等活動另有規定的，從其規定。這意味著，這幾個行業的監管將存在例外。

而行業組織、企業、教育和科研機構、公共文化機構、有關專業機構等研發、應用生成式人工智能技術，未向境內公眾提供生成式人工智能服務的，不適用本辦法的規定。

第二，提出了管理的原則。《辦法》提出國家堅持發展和安全并重、促進創新和依法治理相結合的原則，采取有效措施鼓勵生成式人工智能創新發展，對生成式人工智能服務實行包容審慎和分類分級監管。而在《征求意見稿》中，沒有提到“發展和安全并重、促進創新和依法治理相結合”。

第三，對促進技術發展提出多項規定。國家網信辦有關負責人指出，一是明確鼓勵生成式人工智能技術在各行業、各領域的創新應用，生成積極健康、向上向善的優質內容，探索優化應用場景，構建應用生態體系。二是支持行業組織、企業、教育和科研機構、公共文化機構、有關專業機構等在生成式人工智能技術創新、數據資源建設、轉化應用、風險防范等方面開展協作。三是鼓勵生成式人工智能算法、框架、芯片及配套軟件平臺等基礎技術的自主創新，平等互利開展國際交流與合作，參與生成式人工智能相關國際規則制定。四是提出推動生成式人工智能基礎設施和公共訓練數據資源平臺建設。促進算力資源協同共享，提升算力資源利用效能。推動公共數據分類分級有序開放，擴展高質量的公共訓練數據資源。鼓勵采用安全可信的芯片、軟件、工具、算力和數據資源。

其中，“促進算力資源協同共享”、“公共訓練數據資源平臺建設”、“推動公共數據分類分級有序開放”，“擴展高質量的公共訓練數據資源”，相比《征求意見稿》都是新增內容，凸顯出推動技術發展的鼓勵態度。

第四，對生成式人工智能服務治理提出多項規定。這包括：使用具有合法來源的數據和基礎模型；涉及知識產權的，不得侵害他人依法享有的知識產權；涉及個人信息的，應當取得個人同意或者符合法律、行政法規規定的其他情形；采取有效措施提高訓練數據質量，增強訓練數據的真實性、準確性、客觀性、多樣性；《中華人民共和國網絡安全法》、《中華人民共和國數據安全法》、《中華人民共和國個人信息保護法》等法律、行政法規的其他有關規定和有關主管部門的相關監管要求。

《辦法》提出，在生成式人工智能技術研發過程中進行數據標注的，提供者應當制定符合本辦法要求的清晰、具體、可操作的標注規則；開展數據標注質量評估，抽樣核驗標注內容的準確性；對標注人員進行必要培訓，提升尊法守法意識，監督指導標注人員規范開展標注工作。

在總則部分，《辦法》提到，“提升生成式人工智能服務的透明度，提高生成內容的準確性和可靠性。”相比《征求意見稿》，“透明”和“可靠”都是新提法。另外，《征求意見稿》要求AI生成的內容不得包含“虛假信息”，《辦法》則限定為“虛假有害信息”，相當于放寬了對生成內容的要求。《征求意見稿》還要求提供生成式人工智能服務方單方面“采取措施以防止生成虛假信息”，這一條沒有出現在《辦法》中。

第五，制定了服務規范。這部分的重點內容包括，提供者應當依法承擔網絡信息內容生產者責任，履行網絡信息安全義務。涉及個人信息的，依法承擔個人信息處理者責任，履行個人信息保護義務。提供者應當與注冊其服務的生成式人工智能服務使用者（以下稱使用者）簽訂服務協議，明確雙方權利義務。值得注意的是，《征求意見稿》要求“用戶提供真實身份信息”，這一點在《辦法》被刪除。

此外，提供者應當明確并公開其服務的適用人群、場合、用途，指導使用者科學理性認識和依法使用生成式人工智能技術，采取有效措施防范未成年人用戶過度依賴或者沉迷生成式人工智能服務。

同時，提供者對使用者的輸入信息和使用記錄應當依法履行保護義務，不得收集非必要個人信息，不得非法留存能夠識別使用者身份的輸入信息和使用記錄，不得非法向他人提供使用者的輸入信息和使用記錄。提供者應當依法及時受理和處理個人關于查閱、復制、更正、補充、刪除其個人信息等的請求。

提供者還應當按照《互聯網信息服務深度合成管理規定》對圖片、視頻等生成內容進行標識。

《辦法》規定，提供者發現違法內容的，應當及時采取停止生成、停止傳輸、消除等處置措施，采取模型優化訓練等措施進行整改，并向有關主管部門報告。提供者發現使用者利用生成式人工智能服務從事違法活動的，應當依法依約采取警示、限制功能、暫停或者終止向其提供服務等處置措施，保存有關記錄，并向有關主管部門報告。而《征求意見稿》要求服務提供者在發現生成違法內容時停止生成并對模型重新優化訓練，相比之下，《辦法》中新增了“向有關主管部門報告”。

第六，明確了監督和法律責任。《辦法》明確提出，國家網信辦、發改委、教育部、科技部、工業和信息化部、公安部、國家廣電總局等部門，依據各自職責依法加強對生成式人工智能服務的管理。國家有關主管部門針對生成式人工智能技術特點及其在有關行業和領域的服務應用，完善與創新發展相適應的科學監管方式，制定相應的分類分級監管規則或者指引。而在《征求意見稿》中，僅多次提到“網信部門和國家有關部門”，這意味著，具體有哪些“有關部門”參與監管在《辦法》中得到了明確。

《辦法》第十七條規定，提供具有輿論屬性或者社會動員能力的生成式人工智能服務的，應當按照國家有關規定開展安全評估，并按照《互聯網信息服務算法推薦管理規定》履行算法備案和變更、注銷備案手續。值得注意的是，《辦法》明確生成式AI實施算法的“備案制”，這與此前預期的審核許可制不同，有媒體近日報道稱，會對所有大模型實施發證發牌照，這一說法并未出現在《辦法》中。

《辦法》還提到，參與生成式人工智能服務安全評估和監督檢查的相關機構和人員對在履行職責中知悉的國家秘密、商業秘密、個人隱私和個人信息應當依法予以保密，不得泄露或者非法向他人提供。

對來源于中國境外向境內提供生成式人工智能服務不符合法律、行政法規和本辦法規定的，國家網信部門應當通知有關機構采取技術措施和其他必要措施予以處置。

在法律依據上，提供者違反《辦法》規定的，由有關主管部門依照《中華人民共和國網絡安全法》、《中華人民共和國數據安全法》、《中華人民共和國個人信息保護法》、《中華人民共和國科學技術進步法》等法律、行政法規的規定予以處罰；法律、行政法規沒有規定的，由有關主管部門依據職責予以警告、通報批評，責令限期改正；拒不改正或者情節嚴重的，責令暫停提供相關服務。構成違反治安管理行為的，依法給予治安管理處罰；構成犯罪的，依法追究刑事責任。

值得注意的是，《征求意見稿》第二十條中對違法情節嚴重或拒不改正者處以1萬到10萬元罰款的內容在《辦法》中被刪除。

《辦法》出臺之時，正值國內“群模”涌現。以ChatGPT為代表的生成式人工智能，除了在海外引發微軟、谷歌和Meta等科技巨頭的激烈競爭，也在國內激起了“大廠”間的“AI軍備競賽”，催生了多家初創企業的誕生。中國科學技術信息研究所所長趙志耘今年5月發布《中國人工智能大模型地圖研究報告》稱，據不完全統計，中國10億級參數規模以上大模型已發布了79個。在剛剛結束的2023世界人工智能大會上，有30余個大模型對外亮相。

生成式人工智能的監管已經成為全球高度關注的議題。歐盟正在推進其《人工智能法案》的最后立法進程。美國白宮和議會正在加緊與AI頭部企業磋商，預計在今年夏天推出一系列措施。英國競爭監管機構今年5月也表示，將開始審查人工智能對消費者、企業和經濟的影響，以及是否需要新的監管措施。日本預計將在2023年底之前出臺監管措施。聯合國秘書長安東尼奧·古特雷斯則在6月表態，支持建立像國際原子能機構這樣的人工智能監管機構的提議。

7月13日，中國外交部發言人汪文斌主持例行記者會。有記者提問，特斯拉CEO馬斯克表示，中國有意成立人工智能監管的國際合作框架。中方能否證實并介紹情況？汪文斌回答稱：“我不了解你所說的情況，中方重視人工智能發展與治理，主張堅持以人為本、智能向善的原則，規范人工智能發展，始終以高度負責任的態度參與全球合作。”中方愿與國際社會就人工智能安全治理加強溝通交流，推動達成普遍參與的國際機制，形成具有廣泛共識的治理框架和標準規范。

附：生成式人工智能服務管理暫行辦法（全文）

第一章 總則

第一條 為了促進生成式人工智能健康發展和規范應用，維護國家安全和社會公共利益，保護公民、法人和其他組織的合法權益，根據《中華人民共和國網絡安全法》、《中華人民共和國數據安全法》、《中華人民共和國個人信息保護法》、《中華人民共和國科學技術進步法》等法律、行政法規，制定本辦法。

第二條 利用生成式人工智能技術向中華人民共和國境內公眾提供生成文本、圖片、音頻、視頻等內容的服務（以下稱生成式人工智能服務），適用本辦法。

國家對利用生成式人工智能服務從事新聞出版、影視制作、文藝創作等活動另有規定的，從其規定。

行業組織、企業、教育和科研機構、公共文化機構、有關專業機構等研發、應用生成式人工智能技術，未向境內公眾提供生成式人工智能服務的，不適用本辦法的規定。

第三條 國家堅持發展和安全并重、促進創新和依法治理相結合的原則，采取有效措施鼓勵生成式人工智能創新發展，對生成式人工智能服務實行包容審慎和分類分級監管。

第四條 提供和使用生成式人工智能服務，應當遵守法律、行政法規，尊重社會公德和倫理道德，遵守以下規定：

（一）堅持社會主義核心價值觀，不得生成煽動顛覆國家政權、推翻社會主義制度，危害國家安全和利益、損害國家形象，煽動分裂國家、破壞國家統一和社會穩定，宣揚恐怖主義、極端主義，宣揚民族仇恨、民族歧視，暴力、淫穢色情，以及虛假有害信息等法律、行政法規禁止的內容；

（二）在算法設計、訓練數據選擇、模型生成和優化、提供服務等過程中，采取有效措施防止產生民族、信仰、國別、地域、性別、年齡、職業、健康等歧視；

（三）尊重知識產權、商業道德，保守商業秘密，不得利用算法、數據、平臺等優勢，實施壟斷和不正當競爭行為；

（四）尊重他人合法權益，不得危害他人身心健康，不得侵害他人肖像權、名譽權、榮譽權、隱私權和個人信息權益；

（五）基于服務類型特點，采取有效措施，提升生成式人工智能服務的透明度，提高生成內容的準確性和可靠性。

第二章 技術發展與治理

第五條 鼓勵生成式人工智能技術在各行業、各領域的創新應用，生成積極健康、向上向善的優質內容，探索優化應用場景，構建應用生態體系。

支持行業組織、企業、教育和科研機構、公共文化機構、有關專業機構等在生成式人工智能技術創新、數據資源建設、轉化應用、風險防范等方面開展協作。

第六條 鼓勵生成式人工智能算法、框架、芯片及配套軟件平臺等基礎技術的自主創新，平等互利開展國際交流與合作，參與生成式人工智能相關國際規則制定。

推動生成式人工智能基礎設施和公共訓練數據資源平臺建設。促進算力資源協同共享，提升算力資源利用效能。推動公共數據分類分級有序開放，擴展高質量的公共訓練數據資源。鼓勵采用安全可信的芯片、軟件、工具、算力和數據資源。

第七條 生成式人工智能服務提供者（以下稱提供者）應當依法開展預訓練、優化訓練等訓練數據處理活動，遵守以下規定：

（一）使用具有合法來源的數據和基礎模型；

（二）涉及知識產權的，不得侵害他人依法享有的知識產權；

（三）涉及個人信息的，應當取得個人同意或者符合法律、行政法規規定的其他情形；

（四）采取有效措施提高訓練數據質量，增強訓練數據的真實性、準確性、客觀性、多樣性；

（五）《中華人民共和國網絡安全法》、《中華人民共和國數據安全法》、《中華人民共和國個人信息保護法》等法律、行政法規的其他有關規定和有關主管部門的相關監管要求。

第八條 在生成式人工智能技術研發過程中進行數據標注的，提供者應當制定符合本辦法要求的清晰、具體、可操作的標注規則；開展數據標注質量評估，抽樣核驗標注內容的準確性；對標注人員進行必要培訓，提升尊法守法意識，監督指導標注人員規范開展標注工作。

第三章 服務規范

第九條 提供者應當依法承擔網絡信息內容生產者責任，履行網絡信息安全義務。涉及個人信息的，依法承擔個人信息處理者責任，履行個人信息保護義務。

提供者應當與注冊其服務的生成式人工智能服務使用者（以下稱使用者）簽訂服務協議，明確雙方權利義務。

第十條 提供者應當明確并公開其服務的適用人群、場合、用途，指導使用者科學理性認識和依法使用生成式人工智能技術，采取有效措施防范未成年人用戶過度依賴或者沉迷生成式人工智能服務。

第十一條 提供者對使用者的輸入信息和使用記錄應當依法履行保護義務，不得收集非必要個人信息，不得非法留存能夠識別使用者身份的輸入信息和使用記錄，不得非法向他人提供使用者的輸入信息和使用記錄。

提供者應當依法及時受理和處理個人關于查閱、復制、更正、補充、刪除其個人信息等的請求。

第十二條 提供者應當按照《互聯網信息服務深度合成管理規定》對圖片、視頻等生成內容進行標識。

第十三條 提供者應當在其服務過程中，提供安全、穩定、持續的服務，保障用戶正常使用。

第十四條 提供者發現違法內容的，應當及時采取停止生成、停止傳輸、消除等處置措施，采取模型優化訓練等措施進行整改，并向有關主管部門報告。

提供者發現使用者利用生成式人工智能服務從事違法活動的，應當依法依約采取警示、限制功能、暫停或者終止向其提供服務等處置措施，保存有關記錄，并向有關主管部門報告。

第十五條 提供者應當建立健全投訴、舉報機制，設置便捷的投訴、舉報入口，公布處理流程和反饋時限，及時受理、處理公眾投訴舉報并反饋處理結果。

第四章 監督檢查和法律責任

第十六條 網信、發展改革、教育、科技、工業和信息化、公安、廣播電視、新聞出版等部門，依據各自職責依法加強對生成式人工智能服務的管理。

國家有關主管部門針對生成式人工智能技術特點及其在有關行業和領域的服務應用，完善與創新發展相適應的科學監管方式，制定相應的分類分級監管規則或者指引。

第十七條 提供具有輿論屬性或者社會動員能力的生成式人工智能服務的，應當按照國家有關規定開展安全評估，并按照《互聯網信息服務算法推薦管理規定》履行算法備案和變更、注銷備案手續。

第十八條 使用者發現生成式人工智能服務不符合法律、行政法規和本辦法規定的，有權向有關主管部門投訴、舉報。

第十九條 有關主管部門依據職責對生成式人工智能服務開展監督檢查，提供者應當依法予以配合，按要求對訓練數據來源、規模、類型、標注規則、算法機制機理等予以說明，并提供必要的技術、數據等支持和協助。

參與生成式人工智能服務安全評估和監督檢查的相關機構和人員對在履行職責中知悉的國家秘密、商業秘密、個人隱私和個人信息應當依法予以保密，不得泄露或者非法向他人提供。

第二十條 對來源于中華人民共和國境外向境內提供生成式人工智能服務不符合法律、行政法規和本辦法規定的，國家網信部門應當通知有關機構采取技術措施和其他必要措施予以處置。

第二十一條 提供者違反本辦法規定的，由有關主管部門依照《中華人民共和國網絡安全法》、《中華人民共和國數據安全法》、《中華人民共和國個人信息保護法》、《中華人民共和國科學技術進步法》等法律、行政法規的規定予以處罰；法律、行政法規沒有規定的，由有關主管部門依據職責予以警告、通報批評，責令限期改正；拒不改正或者情節嚴重的，責令暫停提供相關服務。

構成違反治安管理行為的，依法給予治安管理處罰；構成犯罪的，依法追究刑事責任。

第五章 附則

第二十二條 本辦法下列用語的含義是：

（一）生成式人工智能技術，是指具有文本、圖片、音頻、視頻等內容生成能力的模型及相關技術。

（二）生成式人工智能服務提供者，是指利用生成式人工智能技術提供生成式人工智能服務（包括通過提供可編程接口等方式提供生成式人工智能服務）的組織、個人。

（三）生成式人工智能服務使用者，是指使用生成式人工智能服務生成內容的組織、個人。

第二十三條 法律、行政法規規定提供生成式人工智能服務應當取得相關行政許可的，提供者應當依法取得許可。

外商投資生成式人工智能服務，應當符合外商投資相關法律、行政法規的規定。

第二十四條 本辦法自2023年8月15日起施行。

海量資訊、精準解讀，盡在新浪財經APP