您的位置:首頁(yè) >產(chǎn)經(jīng) >

國(guó)家網(wǎng)信辦就《生成式人工智能服務(wù)管理辦法(征求意見(jiàn)稿)》征求意見(jiàn)

2023-04-11 14:08:41 來(lái)源:瀟湘晨報(bào)

國(guó)家互聯(lián)網(wǎng)信息辦公室關(guān)于《生成式人工智能服務(wù)管理辦法(征求意見(jiàn)稿)》公開(kāi)征求意見(jiàn)的通知:

為促進(jìn)生成式人工智能技術(shù)健康發(fā)展和規(guī)范應(yīng)用,根據(jù)《中華人民共和國(guó)網(wǎng)絡(luò)安全法》等法律法規(guī),國(guó)家互聯(lián)網(wǎng)信息辦公室起草了《生成式人工智能服務(wù)管理辦法(征求意見(jiàn)稿)》,現(xiàn)向社會(huì)公開(kāi)征求意見(jiàn)。公眾可通過(guò)以下途徑和方式提出反饋意見(jiàn):

1.登錄中華人民共和國(guó)司法部 中國(guó)政府法制信息網(wǎng)(www.moj.gov.cn、www.chinalaw.gov.cn),進(jìn)入首頁(yè)主菜單的“立法意見(jiàn)征集”欄目提出意見(jiàn)。


【資料圖】

2.通過(guò)電子郵件方式發(fā)送至:wajscy@cac.gov.cn。

3.通過(guò)信函方式將意見(jiàn)寄至:北京市海淀區(qū)阜成路15號(hào)國(guó)家互聯(lián)網(wǎng)信息辦公室網(wǎng)絡(luò)安全協(xié)調(diào)局,郵編100048,并在信封上注明“生成式人工智能服務(wù)管理辦法征求意見(jiàn)”。

意見(jiàn)反饋截止時(shí)間為2023年5月10日。

國(guó)家互聯(lián)網(wǎng)信息辦公室

2023年4月11日

生成式人工智能服務(wù)管理辦法(征求意見(jiàn)稿)

第一條為促進(jìn)生成式人工智能健康發(fā)展和規(guī)范應(yīng)用,根據(jù)《中華人民共和國(guó)網(wǎng)絡(luò)安全法》《中華人民共和國(guó)數(shù)據(jù)安全法》《中華人民共和國(guó)個(gè)人信息保護(hù)法》等法律、行政法規(guī),制定本辦法。

第二條研發(fā)、利用生成式人工智能產(chǎn)品,面向中華人民共和國(guó)境內(nèi)公眾提供服務(wù)的,適用本辦法。

本辦法所稱(chēng)生成式人工智能,是指基于算法、模型、規(guī)則生成文本、圖片、聲音、視頻、代碼等內(nèi)容的技術(shù)。

第三條國(guó)家支持人工智能算法、框架等基礎(chǔ)技術(shù)的自主創(chuàng)新、推廣應(yīng)用、國(guó)際合作,鼓勵(lì)優(yōu)先采用安全可信的軟件、工具、計(jì)算和數(shù)據(jù)資源。

第四條提供生成式人工智能產(chǎn)品或服務(wù)應(yīng)當(dāng)遵守法律法規(guī)的要求,尊重社會(huì)公德、公序良俗,符合以下要求:

(一)利用生成式人工智能生成的內(nèi)容應(yīng)當(dāng)體現(xiàn)社會(huì)主義核心價(jià)值觀,不得含有顛覆國(guó)家政權(quán)、推翻社會(huì)主義制度,煽動(dòng)分裂國(guó)家、破壞國(guó)家統(tǒng)一,宣揚(yáng)恐怖主義、極端主義,宣揚(yáng)民族仇恨、民族歧視,暴力、淫穢色情信息,虛假信息,以及可能擾亂經(jīng)濟(jì)秩序和社會(huì)秩序的內(nèi)容。

(二)在算法設(shè)計(jì)、訓(xùn)練數(shù)據(jù)選擇、模型生成和優(yōu)化、提供服務(wù)等過(guò)程中,采取措施防止出現(xiàn)種族、民族、信仰、國(guó)別、地域、性別、年齡、職業(yè)等歧視。

(三)尊重知識(shí)產(chǎn)權(quán)、商業(yè)道德,不得利用算法、數(shù)據(jù)、平臺(tái)等優(yōu)勢(shì)實(shí)施不公平競(jìng)爭(zhēng)。

(四)利用生成式人工智能生成的內(nèi)容應(yīng)當(dāng)真實(shí)準(zhǔn)確,采取措施防止生成虛假信息。

(五)尊重他人合法利益,防止傷害他人身心健康,損害肖像權(quán)、名譽(yù)權(quán)和個(gè)人隱私,侵犯知識(shí)產(chǎn)權(quán)。禁止非法獲取、披露、利用個(gè)人信息和隱私、商業(yè)秘密。

第五條利用生成式人工智能產(chǎn)品提供聊天和文本、圖像、聲音生成等服務(wù)的組織和個(gè)人(以下稱(chēng)“提供者”),包括通過(guò)提供可編程接口等方式支持他人自行生成文本、圖像、聲音等,承擔(dān)該產(chǎn)品生成內(nèi)容生產(chǎn)者的責(zé)任;涉及個(gè)人信息的,承擔(dān)個(gè)人信息處理者的法定責(zé)任,履行個(gè)人信息保護(hù)義務(wù)。

第六條利用生成式人工智能產(chǎn)品向公眾提供服務(wù)前,應(yīng)當(dāng)按照《具有輿論屬性或社會(huì)動(dòng)員能力的互聯(lián)網(wǎng)信息服務(wù)安全評(píng)估規(guī)定》向國(guó)家網(wǎng)信部門(mén)申報(bào)安全評(píng)估,并按照《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》履行算法備案和變更、注銷(xiāo)備案手續(xù)。

第七條提供者應(yīng)當(dāng)對(duì)生成式人工智能產(chǎn)品的預(yù)訓(xùn)練數(shù)據(jù)、優(yōu)化訓(xùn)練數(shù)據(jù)來(lái)源的合法性負(fù)責(zé)。

用于生成式人工智能產(chǎn)品的預(yù)訓(xùn)練、優(yōu)化訓(xùn)練數(shù)據(jù),應(yīng)滿足以下要求:

(一)符合《中華人民共和國(guó)網(wǎng)絡(luò)安全法》等法律法規(guī)的要求;

(二)不含有侵犯知識(shí)產(chǎn)權(quán)的內(nèi)容;

(三)數(shù)據(jù)包含個(gè)人信息的,應(yīng)當(dāng)征得個(gè)人信息主體同意或者符合法律、行政法規(guī)規(guī)定的其他情形;

(四)能夠保證數(shù)據(jù)的真實(shí)性、準(zhǔn)確性、客觀性、多樣性;

(五)國(guó)家網(wǎng)信部門(mén)關(guān)于生成式人工智能服務(wù)的其他監(jiān)管要求。

第八條生成式人工智能產(chǎn)品研制中采用人工標(biāo)注時(shí),提供者應(yīng)當(dāng)制定符合本辦法要求,清晰、具體、可操作的標(biāo)注規(guī)則,對(duì)標(biāo)注人員進(jìn)行必要培訓(xùn),抽樣核驗(yàn)標(biāo)注內(nèi)容的正確性。

第九條提供生成式人工智能服務(wù)應(yīng)當(dāng)按照《中華人民共和國(guó)網(wǎng)絡(luò)安全法》規(guī)定,要求用戶提供真實(shí)身份信息。

第十條提供者應(yīng)當(dāng)明確并公開(kāi)其服務(wù)的適用人群、場(chǎng)合、用途,采取適當(dāng)措施防范用戶過(guò)分依賴或沉迷生成內(nèi)容。

第十一條提供者在提供服務(wù)過(guò)程中,對(duì)用戶的輸入信息和使用記錄承擔(dān)保護(hù)義務(wù)。不得非法留存能夠推斷出用戶身份的輸入信息,不得根據(jù)用戶輸入信息和使用情況進(jìn)行畫(huà)像,不得向他人提供用戶輸入信息。法律法規(guī)另有規(guī)定的,從其規(guī)定。

第十二條提供者不得根據(jù)用戶的種族、國(guó)別、性別等進(jìn)行帶有歧視性的內(nèi)容生成。

第十三條提供者應(yīng)當(dāng)建立用戶投訴接收處理機(jī)制,及時(shí)處置個(gè)人關(guān)于更正、刪除、屏蔽其個(gè)人信息的請(qǐng)求;發(fā)現(xiàn)、知悉生成的文本、圖片、聲音、視頻等侵害他人肖像權(quán)、名譽(yù)權(quán)、個(gè)人隱私、商業(yè)秘密,或者不符合本辦法要求時(shí),應(yīng)當(dāng)采取措施,停止生成,防止危害持續(xù)。

第十四條提供者應(yīng)當(dāng)在生命周期內(nèi),提供安全、穩(wěn)健、持續(xù)的服務(wù),保障用戶正常使用。

第十五條對(duì)于運(yùn)行中發(fā)現(xiàn)、用戶舉報(bào)的不符合本辦法要求的生成內(nèi)容,除采取內(nèi)容過(guò)濾等措施外,應(yīng)在3個(gè)月內(nèi)通過(guò)模型優(yōu)化訓(xùn)練等方式防止再次生成。

第十六條提供者應(yīng)當(dāng)按照《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》對(duì)生成的圖片、視頻等內(nèi)容進(jìn)行標(biāo)識(shí)。

第十七條提供者應(yīng)當(dāng)根據(jù)國(guó)家網(wǎng)信部門(mén)和有關(guān)主管部門(mén)的要求,提供可以影響用戶信任、選擇的必要信息,包括預(yù)訓(xùn)練和優(yōu)化訓(xùn)練數(shù)據(jù)的來(lái)源、規(guī)模、類(lèi)型、質(zhì)量等描述,人工標(biāo)注規(guī)則,人工標(biāo)注數(shù)據(jù)的規(guī)模和類(lèi)型,基礎(chǔ)算法和技術(shù)體系等。

第十八條提供者應(yīng)當(dāng)指導(dǎo)用戶科學(xué)認(rèn)識(shí)和理性使用生成式人工智能生成的內(nèi)容,不利用生成內(nèi)容損害他人形象、名譽(yù)以及其他合法權(quán)益,不進(jìn)行商業(yè)炒作、不正當(dāng)營(yíng)銷(xiāo)。

用戶發(fā)現(xiàn)生成內(nèi)容不符合本辦法要求時(shí),有權(quán)向網(wǎng)信部門(mén)或者有關(guān)主管部門(mén)舉報(bào)。

第十九條提供者發(fā)現(xiàn)用戶利用生成式人工智能產(chǎn)品過(guò)程中違反法律法規(guī),違背商業(yè)道德、社會(huì)公德行為時(shí),包括從事網(wǎng)絡(luò)炒作、惡意發(fā)帖跟評(píng)、制造垃圾郵件、編寫(xiě)惡意軟件,實(shí)施不正當(dāng)?shù)纳虡I(yè)營(yíng)銷(xiāo)等,應(yīng)當(dāng)暫停或者終止服務(wù)。

第二十條提供者違反本辦法規(guī)定的,由網(wǎng)信部門(mén)和有關(guān)主管部門(mén)按照《中華人民共和國(guó)網(wǎng)絡(luò)安全法》《中華人民共和國(guó)數(shù)據(jù)安全法》《中華人民共和國(guó)個(gè)人信息保護(hù)法》等法律、行政法規(guī)的規(guī)定予以處罰。

法律、行政法規(guī)沒(méi)有規(guī)定的,由網(wǎng)信部門(mén)和有關(guān)主管部門(mén)依據(jù)職責(zé)給予警告、通報(bào)批評(píng),責(zé)令限期改正;拒不改正或者情節(jié)嚴(yán)重的,責(zé)令暫?;蛘呓K止其利用生成式人工智能提供服務(wù),并處一萬(wàn)元以上十萬(wàn)元以下罰款。構(gòu)成違反治安管理行為的,依法給予治安管理處罰;構(gòu)成犯罪的,依法追究刑事責(zé)任。

第二十一條本辦法自2023年 月 日起實(shí)施。

來(lái)源:網(wǎng)信中國(guó)

標(biāo)簽:

相關(guān)文章

編輯推薦