以ChatGPT為代表的現象級互聯網應用的出現，掀起了人工智能領域新一輪技術浪潮。作為新一代信息技術，生成式人工智能通過對人類“腦力”的無限延伸，賦予人們對于追求美好生活的更大想象空間。與此同時，生成式人工智能被濫用帶來的數據泄露、虛假信息等風險挑戰也紛至沓來，各國陸續推出或完善針對生成式人工智能的監管方案。《生成式人工智能服務管理暫行辦法》（以下簡稱《辦法》），是對我國人工智能法律體系與算法治理體系的進一步完善。《辦法》與《互聯網信息服務算法推薦管理規定》、《互聯網信息服務深度合成管理規定》在治理思路上一脈相承，在治理制度方面創新推進，堅持從生成式人工智能技術特點出發，提出了一系列針對性的發展與治理措施。

一、契合新技術新特性，有針對性地進行制度設計

與《互聯網信息服務算法推薦管理規定》、《互聯網信息服務深度合成管理規定》相比，《辦法》更加關注生成式人工智能技術本身，主要與生成式人工智能技術自身特性有關：一是生成式人工智能應用場景具有通用性。傳統算法應用的處理模式與應用場景相對固定，有較為明確的服務邊界，但生成式人工智能應用場景更為豐富，如ChatGPT產品幾乎可以處理自然語言領域的所有任務，如果延續針對固定用途信息服務的管理思路，將難以充分切合實際監管需求。二是生成式人工智能具有價值觀屬性。生成式人工智能模型經過訓練后，對一些概念具備了較為穩定的“認知”，圍繞相關概念的生成內容往往表現出驚人的一致性。一旦模型在訓練過程中引入偏見歧視等有害信息，在模型實際應用中很可能呈現放大化輸出。三是生成式人工智能具備可引導性。生成式人工智能模型在原有的人工智能“預訓練—微調”范式上，增加了“對齊”的訓練環節。在提升模型能力方面，通過在生成式人工智能模型訓練過程中調整模型輸出概率分布不斷趨近人類偏好，但同時也存在被不法分子惡意利用的風險。

《辦法》充分結合生成式人工智能特性，提出相應管理要求：一是在生成內容上，《辦法》要求利用生成式人工智能生成的內容應當“堅持社會主義核心價值觀，不得生成煽動顛覆國家政權、推翻社會主義制度，危害國家安全和利益、損害國家形象，煽動分裂國家、破壞國家統一和社會穩定，宣揚恐怖主義、極端主義，宣揚民族仇恨、民族歧視，暴力、淫穢色情，以及虛假有害信息等法律、行政法規禁止的內容”。二是在算法設計等過程上，《辦法》要求提供者在“算法設計、訓練數據選擇、模型生成和優化、提供服務等過程中，采取有效措施防止出現民族、信仰、國別、地域、性別、年齡、職業、健康等歧視”，以及對尊重知識產權、商業道德和他人合法權益等方面提出了保護原則。從這些要求看，《辦法》基本涵蓋了生成式人工智能服務在應用過程中可能暴露出來的安全及倫理問題。三是在監管方式上，除了安全評估、算法備案、標識等制度外，還提出國家有關主管部門針對生成式人工智能技術特點及其在有關行業和領域的服務應用，完善與創新發展相適應的科學監管方式，制定相應的分類分級監管規則或者指引。

二、聚焦關鍵環節，高度重視性能與安全的平衡

《辦法》在技術監管方面更為聚焦和深入，以生成式人工智能模型訓練生產中的“對齊”這一關鍵技術環節為例，在傳統人工智能模型“預訓練—微調”生成范式中，預訓練環節是利用海量無標注數據讓模型學習豐富的知識信息，形成模型的底層知識來源。微調階段是根據應用領域，通過針對性定制的標注數據集，引導模型形成回答問題的思路。當前，生成式人工智能模型在原有訓練范式基礎上，應用人工智能模型“對齊”技術，能夠幫助生成式人工智能與人類偏好保持對齊并遵循人類意圖，實現模型輸出內容符合“有幫助的”、“誠實的”和“無害的”準則。在追求生成式人工智能的性能與安全的平衡方面，“對齊”技術的適當使用將發揮關鍵作用。

《辦法》圍繞相關關鍵技術環節提出多項條款：一是明確了模型訓練及優化的安全性要求，要求模型訓練要使用具有合法來源的數據和基礎模型，明確“涉及知識產權的，不得侵害他人依法享有的知識產權”“涉及個人信息的，應當取得個人同意或者符合法律、行政法規規定的其他情形”及采取有效措施提高訓練數據質量等，在提升訓練數據質量等生成式人工智能模型重要基礎方面作出了詳細監管說明。二是明確在數據標注過程中，應制定清晰、具體、可操作的標注規則，以及開展數據標注質量評估、抽樣核驗標注內容的準確性等要求，在提供符合“對齊”要求的高質量數據方面也提出明確要求。三是在模型輸出信息出現違法內容時，要求提供者采取模型優化訓練等措施進行整改，體現了《辦法》與生成式人工智能技術特點及關鍵環節的高度適應。

三、強調促進創新與規范引導并重，有力推動生成式人工智能技術健康發展

《辦法》的制定和出臺，是我國推進生成式人工智能服務領域治理、促進產業規范健康發展、引導技術向善的重要舉措。《辦法》第三條指出，生成式人工智能服務，堅持發展和安全并重、促進創新和依法治理相結合的原則；第五條明確鼓勵生成式人工智能技術在各行業、各領域的創新應用，支持行業組織、企業、教育和科研機構、公共文化機構、有關專業機構在生成式人工智能多個方面開展協作；第六條提出鼓勵生成式人工智能算法、框架、芯片及配套軟件平臺等基礎技術的自主創新及平等互利開展國際交流與合作，參與生成式人工智能相關國際規則制定。以上內容均體現出我國高度重視生成式人工智能健康發展，科學合理規范引導生成式人工智能應用的管理原則。在人工智能技術迎來重要發展的時期，我們不僅要讓相關新技術新應用充分釋放出創新活力，也要在安全監管與創新引導之間掌握好平衡。一方面，高度重視和充分研判生成式人工智能相關創新應用對數據安全、公共利益、知識產權、倫理道德等方面可能造成的影響，進一步加強人工智能領域的行業自律，引導大數據、人工智能等先進技術在社會主義核心價值觀的引導下開展應用創新，加快制定相關行業標準和規范。另一方面，充分支持人工智能領域研發主體開拓進取，鼓勵和支持自主創新，培育國家級生成式人工智能技術生態和應用生態，堅持包容和審慎相結合，理性務實推進中國人工智能科技創新和數字經濟的蓬勃發展。?