生成式人工智能服務(wù)管理暫行辦法

國家互聯(lián)網(wǎng)信息辦公室

中華人民共和國國家發(fā)展和改革委員會

中華人民共和國教育部

中華人民共和國科學技術(shù)部

中華人民共和國工業(yè)和信息化部

中華人民共和國公安部

國家廣播電視總局

令

第15號

《生成式人工智能服務(wù)管理暫行辦法》已經(jīng)2023年5月23日國家互聯(lián)網(wǎng)信息辦公室2023年第12次室務(wù)會會議審議通過，并經(jīng)國家發(fā)展和改革委員會、教育部、科學技術(shù)部、工業(yè)和信息化部、公安部、國家廣播電視總局同意，現(xiàn)予公布，自2023年8月15日起施行。

國家互聯(lián)網(wǎng)信息辦公室主任 莊榮文

國家發(fā)展和改革委員會主任 鄭柵潔

教育部部長 懷進鵬

科學技術(shù)部部長 王志剛

工業(yè)和信息化部部長 金壯龍

公安部部長 王小洪

國家廣播電視總局局長 曹淑敏

2023年7月10日

生成式人工智能服務(wù)管理暫行辦法

第一章 總　則

第一條 為了促進生成式人工智能健康發(fā)展和規(guī)范應(yīng)用，維護國家安全和社會公共利益，保護公民、法人和其他組織的合法權(quán)益，根據(jù)《中華人民共和國網(wǎng)絡(luò)安全法》、《中華人民共和國數(shù)據(jù)安全法》、《中華人民共和國個人信息保護法》、《中華人民共和國科學技術(shù)進步法》等法律、行政法規(guī)，制定本辦法。

第二條 利用生成式人工智能技術(shù)向中華人民共和國境內(nèi)公眾提供生成文本、圖片、音頻、視頻等內(nèi)容的服務(wù)（以下稱生成式人工智能服務(wù)），適用本辦法。

國家對利用生成式人工智能服務(wù)從事新聞出版、影視制作、文藝創(chuàng)作等活動另有規(guī)定的，從其規(guī)定。

行業(yè)組織、企業(yè)、教育和科研機構(gòu)、公共文化機構(gòu)、有關(guān)專業(yè)機構(gòu)等研發(fā)、應(yīng)用生成式人工智能技術(shù)，未向境內(nèi)公眾提供生成式人工智能服務(wù)的，不適用本辦法的規(guī)定。

第三條 國家堅持發(fā)展和安全并重、促進創(chuàng)新和依法治理相結(jié)合的原則，采取有效措施鼓勵生成式人工智能創(chuàng)新發(fā)展，對生成式人工智能服務(wù)實行包容審慎和分類分級監(jiān)管。

第四條 提供和使用生成式人工智能服務(wù)，應(yīng)當遵守法律、行政法規(guī)，尊重社會公德和倫理道德，遵守以下規(guī)定：

（一）堅持社會主義核心價值觀，不得生成煽動顛覆國家政權(quán)、推翻社會主義制度，危害國家安全和利益、損害國家形象，煽動分裂國家、破壞國家統(tǒng)一和社會穩(wěn)定，宣揚恐怖主義、極端主義，宣揚民族仇恨、民族歧視，暴力、淫穢色情，以及虛假有害信息等法律、行政法規(guī)禁止的內(nèi)容；

（二）在算法設(shè)計、訓練數(shù)據(jù)選擇、模型生成和優(yōu)化、提供服務(wù)等過程中，采取有效措施防止產(chǎn)生民族、信仰、國別、地域、性別、年齡、職業(yè)、健康等歧視；

（三）尊重知識產(chǎn)權(quán)、商業(yè)道德，保守商業(yè)秘密，不得利用算法、數(shù)據(jù)、平臺等優(yōu)勢，實施壟斷和不正當競爭行為；

（四）尊重他人合法權(quán)益，不得危害他人身心健康，不得侵害他人肖像權(quán)、名譽權(quán)、榮譽權(quán)、隱私權(quán)和個人信息權(quán)益；

（五）基于服務(wù)類型特點，采取有效措施，提升生成式人工智能服務(wù)的透明度，提高生成內(nèi)容的準確性和可靠性。

第二章 技術(shù)發(fā)展與治理

第五條 鼓勵生成式人工智能技術(shù)在各行業(yè)、各領(lǐng)域的創(chuàng)新應(yīng)用，生成積極健康、向上向善的優(yōu)質(zhì)內(nèi)容，探索優(yōu)化應(yīng)用場景，構(gòu)建應(yīng)用生態(tài)體系。

支持行業(yè)組織、企業(yè)、教育和科研機構(gòu)、公共文化機構(gòu)、有關(guān)專業(yè)機構(gòu)等在生成式人工智能技術(shù)創(chuàng)新、數(shù)據(jù)資源建設(shè)、轉(zhuǎn)化應(yīng)用、風險防范等方面開展協(xié)作。

第六條 鼓勵生成式人工智能算法、框架、芯片及配套軟件平臺等基礎(chǔ)技術(shù)的自主創(chuàng)新，平等互利開展國際交流與合作，參與生成式人工智能相關(guān)國際規(guī)則制定。

推動生成式人工智能基礎(chǔ)設(shè)施和公共訓練數(shù)據(jù)資源平臺建設(shè)。促進算力資源協(xié)同共享，提升算力資源利用效能。推動公共數(shù)據(jù)分類分級有序開放，擴展高質(zhì)量的公共訓練數(shù)據(jù)資源。鼓勵采用安全可信的芯片、軟件、工具、算力和數(shù)據(jù)資源。

第七條 生成式人工智能服務(wù)提供者（以下稱提供者）應(yīng)當依法開展預訓練、優(yōu)化訓練等訓練數(shù)據(jù)處理活動，遵守以下規(guī)定：

（一）使用具有合法來源的數(shù)據(jù)和基礎(chǔ)模型；

（二）涉及知識產(chǎn)權(quán)的，不得侵害他人依法享有的知識產(chǎn)權(quán)；

（三）涉及個人信息的，應(yīng)當取得個人同意或者符合法律、行政法規(guī)規(guī)定的其他情形；

（四）采取有效措施提高訓練數(shù)據(jù)質(zhì)量，增強訓練數(shù)據(jù)的真實性、準確性、客觀性、多樣性；

（五）《中華人民共和國網(wǎng)絡(luò)安全法》、《中華人民共和國數(shù)據(jù)安全法》、《中華人民共和國個人信息保護法》等法律、行政法規(guī)的其他有關(guān)規(guī)定和有關(guān)主管部門的相關(guān)監(jiān)管要求。

第八條 在生成式人工智能技術(shù)研發(fā)過程中進行數(shù)據(jù)標注的，提供者應(yīng)當制定符合本辦法要求的清晰、具體、可操作的標注規(guī)則；開展數(shù)據(jù)標注質(zhì)量評估，抽樣核驗標注內(nèi)容的準確性；對標注人員進行必要培訓，提升尊法守法意識，監(jiān)督指導標注人員規(guī)范開展標注工作。

第三章 服務(wù)規(guī)范

第九條 提供者應(yīng)當依法承擔網(wǎng)絡(luò)信息內(nèi)容生產(chǎn)者責任，履行網(wǎng)絡(luò)信息安全義務(wù)。涉及個人信息的，依法承擔個人信息處理者責任，履行個人信息保護義務(wù)。

提供者應(yīng)當與注冊其服務(wù)的生成式人工智能服務(wù)使用者（以下稱使用者）簽訂服務(wù)協(xié)議，明確雙方權(quán)利義務(wù)。

第十條 提供者應(yīng)當明確并公開其服務(wù)的適用人群、場合、用途，指導使用者科學理性認識和依法使用生成式人工智能技術(shù)，采取有效措施防范未成年人用戶過度依賴或者沉迷生成式人工智能服務(wù)。

第十一條 提供者對使用者的輸入信息和使用記錄應(yīng)當依法履行保護義務(wù)，不得收集非必要個人信息，不得非法留存能夠識別使用者身份的輸入信息和使用記錄，不得非法向他人提供使用者的輸入信息和使用記錄。

提供者應(yīng)當依法及時受理和處理個人關(guān)于查閱、復制、更正、補充、刪除其個人信息等的請求。

第十二條 提供者應(yīng)當按照《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》對圖片、視頻等生成內(nèi)容進行標識。

第十三條 提供者應(yīng)當在其服務(wù)過程中，提供安全、穩(wěn)定、持續(xù)的服務(wù)，保障用戶正常使用。

第十四條 提供者發(fā)現(xiàn)違法內(nèi)容的，應(yīng)當及時采取停止生成、停止傳輸、消除等處置措施，采取模型優(yōu)化訓練等措施進行整改，并向有關(guān)主管部門報告。

提供者發(fā)現(xiàn)使用者利用生成式人工智能服務(wù)從事違法活動的，應(yīng)當依法依約采取警示、限制功能、暫?；蛘呓K止向其提供服務(wù)等處置措施，保存有關(guān)記錄，并向有關(guān)主管部門報告。

第十五條 提供者應(yīng)當建立健全投訴、舉報機制，設(shè)置便捷的投訴、舉報入口，公布處理流程和反饋時限，及時受理、處理公眾投訴舉報并反饋處理結(jié)果。

第四章 監(jiān)督檢查和法律責任

第十六條 網(wǎng)信、發(fā)展改革、教育、科技、工業(yè)和信息化、公安、廣播電視、新聞出版等部門，依據(jù)各自職責依法加強對生成式人工智能服務(wù)的管理。

國家有關(guān)主管部門針對生成式人工智能技術(shù)特點及其在有關(guān)行業(yè)和領(lǐng)域的服務(wù)應(yīng)用，完善與創(chuàng)新發(fā)展相適應(yīng)的科學監(jiān)管方式，制定相應(yīng)的分類分級監(jiān)管規(guī)則或者指引。

第十七條 提供具有輿論屬性或者社會動員能力的生成式人工智能服務(wù)的，應(yīng)當按照國家有關(guān)規(guī)定開展安全評估，并按照《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》履行算法備案和變更、注銷備案手續(xù)。

第十八條 使用者發(fā)現(xiàn)生成式人工智能服務(wù)不符合法律、行政法規(guī)和本辦法規(guī)定的，有權(quán)向有關(guān)主管部門投訴、舉報。

第十九條 有關(guān)主管部門依據(jù)職責對生成式人工智能服務(wù)開展監(jiān)督檢查，提供者應(yīng)當依法予以配合，按要求對訓練數(shù)據(jù)來源、規(guī)模、類型、標注規(guī)則、算法機制機理等予以說明，并提供必要的技術(shù)、數(shù)據(jù)等支持和協(xié)助。

參與生成式人工智能服務(wù)安全評估和監(jiān)督檢查的相關(guān)機構(gòu)和人員對在履行職責中知悉的國家秘密、商業(yè)秘密、個人隱私和個人信息應(yīng)當依法予以保密，不得泄露或者非法向他人提供。

第二十條 對來源于中華人民共和國境外向境內(nèi)提供生成式人工智能服務(wù)不符合法律、行政法規(guī)和本辦法規(guī)定的，國家網(wǎng)信部門應(yīng)當通知有關(guān)機構(gòu)采取技術(shù)措施和其他必要措施予以處置。

第二十一條 提供者違反本辦法規(guī)定的，由有關(guān)主管部門依照《中華人民共和國網(wǎng)絡(luò)安全法》、《中華人民共和國數(shù)據(jù)安全法》、《中華人民共和國個人信息保護法》、《中華人民共和國科學技術(shù)進步法》等法律、行政法規(guī)的規(guī)定予以處罰；法律、行政法規(guī)沒有規(guī)定的，由有關(guān)主管部門依據(jù)職責予以警告、通報批評，責令限期改正；拒不改正或者情節(jié)嚴重的，責令暫停提供相關(guān)服務(wù)。

構(gòu)成違反治安管理行為的，依法給予治安管理處罰；構(gòu)成犯罪的，依法追究刑事責任。

第五章 附　則

第二十二條 本辦法下列用語的含義是：

（一）生成式人工智能技術(shù)，是指具有文本、圖片、音頻、視頻等內(nèi)容生成能力的模型及相關(guān)技術(shù)。

（二）生成式人工智能服務(wù)提供者，是指利用生成式人工智能技術(shù)提供生成式人工智能服務(wù)（包括通過提供可編程接口等方式提供生成式人工智能服務(wù)）的組織、個人。

（三）生成式人工智能服務(wù)使用者，是指使用生成式人工智能服務(wù)生成內(nèi)容的組織、個人。

第二十三條 法律、行政法規(guī)規(guī)定提供生成式人工智能服務(wù)應(yīng)當取得相關(guān)行政許可的，提供者應(yīng)當依法取得許可。

外商投資生成式人工智能服務(wù)，應(yīng)當符合外商投資相關(guān)法律、行政法規(guī)的規(guī)定。

第二十四條 本辦法自2023年8月15日起施行。