國家網信辦(ban)等七部門聯合(he)公布《生(sheng)成式人工(gong)智能服(fu)務(wu)管理暫行(xing)辦(ban)法(fa)》，將于(yu)2023年8月15日起施行(xing)。針對(dui)傳播虛(xu)假信息、侵(qin)害個人信息權(quan)(quan)益、數據安全(quan)和(he)偏見(jian)歧視等問題(ti)，辦(ban)法(fa)規定了包括(kuo)使用AI生(sheng)成內容不得(de)侵(qin)害他(ta)人肖(xiao)像(xiang)權(quan)(quan)、應對(dui)AI生(sheng)成的圖(tu)片視頻進行(xing)標識等具體細則。全(quan)文如(ru)下：

生成式人工(gong)智能服務管理暫(zan)行(xing)辦法

  第一章 總 則

  第(di)一條 為了促進(jin)生成式人(ren)(ren)工智能健(jian)康發展(zhan)和規(gui)范應用，維護國(guo)家安全和社會公共(gong)利益，保(bao)護公民(min)(min)、法(fa)(fa)(fa)(fa)人(ren)(ren)和其他組織的合(he)法(fa)(fa)(fa)(fa)權益，根據(ju)《中(zhong)(zhong)華(hua)人(ren)(ren)民(min)(min)共(gong)和國(guo)網(wang)絡安全法(fa)(fa)(fa)(fa)》、《中(zhong)(zhong)華(hua)人(ren)(ren)民(min)(min)共(gong)和國(guo)數據(ju)安全法(fa)(fa)(fa)(fa)》、《中(zhong)(zhong)華(hua)人(ren)(ren)民(min)(min)共(gong)和國(guo)個人(ren)(ren)信息保(bao)護法(fa)(fa)(fa)(fa)》、《中(zhong)(zhong)華(hua)人(ren)(ren)民(min)(min)共(gong)和國(guo)科學技術進(jin)步法(fa)(fa)(fa)(fa)》等法(fa)(fa)(fa)(fa)律、行(xing)政法(fa)(fa)(fa)(fa)規(gui)，制定本(ben)辦法(fa)(fa)(fa)(fa)。

  第二條 利用生成(cheng)式人(ren)(ren)工智能技(ji)術(shu)向(xiang)中華人(ren)(ren)民共(gong)和國境(jing)內公眾提供生成(cheng)文本、圖片、音頻(pin)、視頻(pin)等內容的服務（以下稱生成(cheng)式人(ren)(ren)工智能服務），適用本辦法。

  國家(jia)對利用生成式人(ren)工智(zhi)能服務從(cong)事新聞(wen)出(chu)版、影視制作(zuo)、文藝創作(zuo)等活動另有規定(ding)的，從(cong)其規定(ding)。

  行(xing)業(ye)組(zu)織(zhi)、企業(ye)、教(jiao)育和科研機(ji)構、公共文化機(ji)構、有關專業(ye)機(ji)構等研發、應用(yong)生(sheng)成式人(ren)工智能(neng)技術，未向(xiang)境內公眾(zhong)提(ti)供生(sheng)成式人(ren)工智能(neng)服務的，不適用(yong)本(ben)辦法的規定。

  第三條(tiao) 國家堅持(chi)發展和(he)安(an)全并重、促(cu)進創(chuang)新(xin)和(he)依法治理相結合的原則，采取有效措施鼓(gu)勵生成(cheng)式人工智能(neng)(neng)創(chuang)新(xin)發展，對生成(cheng)式人工智能(neng)(neng)服務(wu)實(shi)行(xing)包容審慎和(he)分類(lei)分級(ji)監管。

  第四條 提供和使用生成式人工(gong)智能服務(wu)，應當遵守(shou)法律、行政(zheng)法規，尊重社會公德(de)和倫理道德(de)，遵守(shou)以下規定(ding)：

  （一(yi)）堅持社(she)(she)會主義(yi)(yi)核心價值(zhi)觀，不得生成煽動(dong)顛覆國(guo)家政權、推翻(fan)社(she)(she)會主義(yi)(yi)制度(du)，危害(hai)國(guo)家安(an)全和利益、損害(hai)國(guo)家形象(xiang)，煽動(dong)分(fen)裂國(guo)家、破壞國(guo)家統一(yi)和社(she)(she)會穩(wen)定(ding)，宣揚恐怖主義(yi)(yi)、極端主義(yi)(yi)，宣揚民(min)族仇恨、民(min)族歧視，暴力、淫穢色情，以及虛假有害(hai)信息等法(fa)律、行政法(fa)規禁止的內(nei)容；

  （二(er)）在算法設計(ji)、訓(xun)練數據選擇(ze)、模型生成(cheng)和優化、提供服(fu)務等過程(cheng)中(zhong)，采取有(you)效措(cuo)施防止產(chan)生民族、信仰(yang)、國別(bie)、地(di)域、性別(bie)、年齡(ling)、職業、健康等歧(qi)視(shi)；

  （三）尊重知識產權、商業(ye)道德，保(bao)守商業(ye)秘密，不得利用算法、數據、平臺等優勢，實施壟斷和不正當競(jing)爭行(xing)為；

  （四）尊重他(ta)人(ren)合法權(quan)益，不(bu)得(de)危(wei)害(hai)他(ta)人(ren)身心健康，不(bu)得(de)侵(qin)害(hai)他(ta)人(ren)肖像權(quan)、名(ming)譽權(quan)、榮譽權(quan)、隱私權(quan)和個(ge)人(ren)信息權(quan)益； 

  （五）基于服務類型特點，采(cai)取有效措施，提(ti)升生成式(shi)人工智能服務的透明度，提(ti)高生成內容的準確性和可靠性。

  第二章 技術(shu)發展與治理

  第(di)五條 鼓勵生成(cheng)(cheng)式(shi)人工智能(neng)技術在各行業、各領域的(de)創新(xin)應(ying)用(yong)(yong)，生成(cheng)(cheng)積極健康、向上向善的(de)優質內(nei)容(rong)，探(tan)索優化應(ying)用(yong)(yong)場景，構建應(ying)用(yong)(yong)生態體系。

  支持行業(ye)組(zu)織、企業(ye)、教育和科研機(ji)構(gou)、公(gong)共(gong)文化機(ji)構(gou)、有關專業(ye)機(ji)構(gou)等在生成式人工智能技術創(chuang)新、數據資源建設、轉化應用、風(feng)險(xian)防(fang)范(fan)等方面開展協作。

  第六條 鼓勵生成式人工智能算法、框架(jia)、芯片(pian)及配套(tao)軟(ruan)件平(ping)臺等基礎技(ji)術的自主(zhu)創新，平(ping)等互利開展國際交流與合作，參與生成式人工智能相(xiang)關國際規則制定。 

  推(tui)動(dong)生(sheng)成式人(ren)工智能基(ji)礎(chu)設施和公共(gong)訓練數(shu)據(ju)資(zi)源平臺建設。促進算力資(zi)源協同共(gong)享，提升算力資(zi)源利用效能。推(tui)動(dong)公共(gong)數(shu)據(ju)分類(lei)分級有序開放，擴(kuo)展高質量的公共(gong)訓練數(shu)據(ju)資(zi)源。鼓勵采用安全可信的芯片、軟件、工具、算力和數(shu)據(ju)資(zi)源。

   第七條 生成式人工(gong)智能服務提供(gong)者（以(yi)(yi)下稱提供(gong)者）應當(dang)依(yi)法開展預訓練、優化訓練等訓練數據處理活動(dong)，遵(zun)守以(yi)(yi)下規(gui)定：

  （一(yi)）使用(yong)具有合法來源的數據(ju)和基礎(chu)模(mo)型；

  （二）涉(she)及知(zhi)識產權的，不得侵害他人(ren)依(yi)法享(xiang)有(you)的知(zhi)識產權；

  （三(san)）涉及(ji)個(ge)人(ren)信息的(de)，應當(dang)取得個(ge)人(ren)同意或(huo)者符合法律、行政法規(gui)規(gui)定的(de)其他情形；

  （四(si)）采取有效措施提(ti)高訓練數據質(zhi)量，增(zeng)強訓練數據的真(zhen)實性(xing)、準確性(xing)、客(ke)觀性(xing)、多樣性(xing)；

  （五(wu)）《中(zhong)華人民共和(he)(he)(he)國(guo)網絡安全法》、《中(zhong)華人民共和(he)(he)(he)國(guo)數據安全法》、《中(zhong)華人民共和(he)(he)(he)國(guo)個人信息保護法》等(deng)法律、行(xing)政法規的(de)其他(ta)有關規定和(he)(he)(he)有關主(zhu)管部門的(de)相關監管要(yao)求。

  第八(ba)條(tiao) 在生成式(shi)人工智能技術研發過程中進行數據標(biao)注的(de)，提(ti)(ti)供者應當制(zhi)定符合本辦法(fa)要求的(de)清晰、具體、可操作的(de)標(biao)注規(gui)則(ze)；開(kai)展(zhan)數據標(biao)注質量評估，抽樣核驗標(biao)注內容(rong)的(de)準確性；對(dui)標(biao)注人員進行必要培訓，提(ti)(ti)升(sheng)尊法(fa)守法(fa)意識(shi)，監(jian)督指(zhi)導(dao)標(biao)注人員規(gui)范開(kai)展(zhan)標(biao)注工作。

  第三(san)章 服務規范

  第九條 提供者應(ying)當依(yi)法(fa)承擔網(wang)絡信(xin)(xin)(xin)息(xi)(xi)內容生(sheng)產者責(ze)(ze)任(ren)，履行網(wang)絡信(xin)(xin)(xin)息(xi)(xi)安(an)全義(yi)務。涉及個人(ren)(ren)信(xin)(xin)(xin)息(xi)(xi)的，依(yi)法(fa)承擔個人(ren)(ren)信(xin)(xin)(xin)息(xi)(xi)處理(li)者責(ze)(ze)任(ren)，履行個人(ren)(ren)信(xin)(xin)(xin)息(xi)(xi)保(bao)護義(yi)務。

  提(ti)供者應當與注冊(ce)其服(fu)(fu)務的生成(cheng)式人工智(zhi)能服(fu)(fu)務使用者（以下稱使用者）簽訂服(fu)(fu)務協議，明確雙方權利(li)義務。

  第十(shi)條(tiao) 提(ti)供者(zhe)應當(dang)明確并(bing)公開(kai)其(qi)服(fu)務的適用人群、場合、用途，指(zhi)導使用者(zhe)科學理性認(ren)識和依(yi)法使用生成式人工智能(neng)技術，采取有效措(cuo)施防范未成年(nian)人用戶過度依(yi)賴或者(zhe)沉迷生成式人工智能(neng)服(fu)務。

  第十一條 提(ti)供(gong)者(zhe)(zhe)對使(shi)(shi)用者(zhe)(zhe)的(de)輸(shu)入信息(xi)(xi)和(he)(he)使(shi)(shi)用記錄應當依(yi)法(fa)履行保(bao)護義(yi)務，不得收集非必(bi)要(yao)個(ge)人信息(xi)(xi)，不得非法(fa)留存能夠識別使(shi)(shi)用者(zhe)(zhe)身份的(de)輸(shu)入信息(xi)(xi)和(he)(he)使(shi)(shi)用記錄，不得非法(fa)向他人提(ti)供(gong)使(shi)(shi)用者(zhe)(zhe)的(de)輸(shu)入信息(xi)(xi)和(he)(he)使(shi)(shi)用記錄。

  提供者應當依法(fa)及時受理(li)和處理(li)個(ge)人關于查閱、復制、更正(zheng)、補充、刪除其個(ge)人信(xin)息(xi)等的請求。

  第十二條(tiao) 提供者應當按照《互聯網信息服務深度合成(cheng)管理規定》對圖片、視頻等生成(cheng)內(nei)容進行標識。

  第十三條(tiao) 提供(gong)者應當在(zai)其服務(wu)過程中(zhong)，提供(gong)安全(quan)、穩定、持續的服務(wu)，保障用戶正常(chang)使用。

  第(di)十四條 提供者發現違法(fa)內(nei)容(rong)的，應當及(ji)時采取停(ting)止(zhi)生成、停(ting)止(zhi)傳輸(shu)、消除等(deng)(deng)處置措施，采取模型(xing)優化訓練(lian)等(deng)(deng)措施進(jin)行整改(gai)，并向有關主管(guan)部門報告。

  提供者(zhe)發現使用者(zhe)利用生成式人工智能(neng)服(fu)務從事違(wei)法活動的，應當依法依約采取警示(shi)、限制功能(neng)、暫停或者(zhe)終止向(xiang)其(qi)提供服(fu)務等處(chu)置措施，保存(cun)有(you)關(guan)記錄，并向(xiang)有(you)關(guan)主管部門報告(gao)。

  第十(shi)五(wu)條 提供者應當(dang)建立健全投(tou)訴(su)、舉報(bao)機制(zhi)，設置便捷的(de)投(tou)訴(su)、舉報(bao)入口，公(gong)布(bu)處(chu)理(li)(li)流程(cheng)和反饋時限，及時受理(li)(li)、處(chu)理(li)(li)公(gong)眾(zhong)投(tou)訴(su)舉報(bao)并反饋處(chu)理(li)(li)結果。

  第四章 監督(du)檢(jian)查和法律責任

  第十六條 網信(xin)、發展改革、教(jiao)育、科(ke)技、工業和信(xin)息化、公安(an)、廣播電視、新聞出版等部門，依(yi)據(ju)各自(zi)職責依(yi)法加強(qiang)對生成式人工智能(neng)服務(wu)的管理。

   國家有關(guan)主管(guan)部門針(zhen)對生(sheng)成(cheng)式(shi)(shi)人工智(zhi)能技(ji)術特點及(ji)其在有關(guan)行業和領域的服務應用，完(wan)善與創新(xin)發展相適應的科(ke)學監(jian)管(guan)方(fang)式(shi)(shi)，制定相應的分(fen)類分(fen)級監(jian)管(guan)規(gui)則或者指引。

  第(di)十七條 提供具有(you)輿(yu)論屬性或者社會動員能力的(de)(de)生成(cheng)式人(ren)工智能服務的(de)(de)，應當按照國家(jia)有(you)關規(gui)定(ding)開展安全(quan)評估，并按照《互聯網信息(xi)服務算法推薦管(guan)理規(gui)定(ding)》履(lv)行算法備(bei)案(an)和(he)變更、注銷備(bei)案(an)手續。

  第(di)十(shi)八條 使用者發現生(sheng)成式人工(gong)智(zhi)能(neng)服(fu)務不符合(he)法(fa)律、行政法(fa)規(gui)和本辦法(fa)規(gui)定的(de)，有權向有關主(zhu)管部門投訴(su)、舉報。

  第十九條 有關(guan)主(zhu)管部門依(yi)據(ju)職責對生成式(shi)人(ren)工智能服務開(kai)展(zhan)監督檢查，提供者應當依(yi)法予(yu)以配合，按要求(qiu)對訓(xun)練數據(ju)來(lai)源、規模(mo)、類型、標注規則、算(suan)法機制(zhi)機理等予(yu)以說明，并提供必要的(de)技(ji)術、數據(ju)等支持和(he)協助。

  參與生成式人(ren)工智能服(fu)務安全(quan)評(ping)估和(he)監督檢查的相關(guan)機構和(he)人(ren)員對在履行(xing)職責中知悉的國家秘密、商(shang)業秘密、個人(ren)隱私和(he)個人(ren)信息應當依法予以保密，不得泄露或者(zhe)非法向他人(ren)提供(gong)。

  第二十(shi)條 對來源于中華人民共和國境(jing)外向境(jing)內提供生成(cheng)式(shi)人工(gong)智能服務(wu)不符合法律、行政法規和本辦法規定的，國家網信(xin)部(bu)門應(ying)當通(tong)知有(you)關(guan)機構采取技術措施(shi)和其他必要措施(shi)予以處置(zhi)。

  第二十一條 提(ti)供者(zhe)(zhe)違反本辦法(fa)規(gui)(gui)定(ding)的(de)(de)，由(you)有(you)關主(zhu)管部門依照(zhao)《中(zhong)華(hua)人(ren)(ren)民共和國網(wang)絡安全法(fa)》、《中(zhong)華(hua)人(ren)(ren)民共和國數(shu)據安全法(fa)》、《中(zhong)華(hua)人(ren)(ren)民共和國個人(ren)(ren)信息保護(hu)法(fa)》、《中(zhong)華(hua)人(ren)(ren)民共和國科學技術(shu)進步法(fa)》等(deng)法(fa)律、行政法(fa)規(gui)(gui)的(de)(de)規(gui)(gui)定(ding)予以處(chu)罰；法(fa)律、行政法(fa)規(gui)(gui)沒有(you)規(gui)(gui)定(ding)的(de)(de)，由(you)有(you)關主(zhu)管部門依據職(zhi)責(ze)(ze)予以警告、通報批評，責(ze)(ze)令限期改正；拒不改正或者(zhe)(zhe)情節(jie)嚴重的(de)(de)，責(ze)(ze)令暫(zan)停提(ti)供相關服(fu)務。

  構成違反治(zhi)安管理(li)行為的(de)(de)，依法給予(yu)治(zhi)安管理(li)處罰；構成犯罪的(de)(de)，依法追(zhui)究(jiu)刑事(shi)責任(ren)。

  第五章 附 則

  第二(er)十二(er)條 本辦法下列用語的含義是(shi)：

   （一）生成(cheng)式人(ren)工智能技術，是指(zhi)具(ju)有文(wen)本(ben)、圖片、音頻、視頻等(deng)內容生成(cheng)能力的模型及相(xiang)關(guan)技術。

  （二）生成式(shi)(shi)人工智(zhi)(zhi)能(neng)(neng)服(fu)務提(ti)供(gong)者，是指利用生成式(shi)(shi)人工智(zhi)(zhi)能(neng)(neng)技術(shu)提(ti)供(gong)生成式(shi)(shi)人工智(zhi)(zhi)能(neng)(neng)服(fu)務（包括(kuo)通過提(ti)供(gong)可(ke)編程接口等方式(shi)(shi)提(ti)供(gong)生成式(shi)(shi)人工智(zhi)(zhi)能(neng)(neng)服(fu)務）的組織、個人。

  （三）生(sheng)成式(shi)人(ren)(ren)工智能(neng)服務(wu)使用者(zhe)，是指使用生(sheng)成式(shi)人(ren)(ren)工智能(neng)服務(wu)生(sheng)成內(nei)容的(de)組織、個人(ren)(ren)。

  第二十三條 法律、行(xing)政(zheng)法規(gui)規(gui)定提(ti)供生成式(shi)人工智能服務(wu)應(ying)當取得(de)相(xiang)關(guan)行(xing)政(zheng)許(xu)可的(de)，提(ti)供者應(ying)當依法取得(de)許(xu)可。

  外商(shang)投(tou)資(zi)生成式(shi)人工(gong)智能服務，應當符合外商(shang)投(tou)資(zi)相(xiang)關法律、行政法規(gui)的規(gui)定。

  第二十四(si)條 本辦法(fa)自(zi)2023年8月15日(ri)起(qi)施行。