國(guó)家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部、公安部三部門(mén)聯(lián)合印發(fā)了《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》（以下簡(jiǎn)稱《規(guī)定》），旨在加強(qiáng)對(duì)深度合成技術(shù)（Deep Synthesis Technology）的規(guī)范管理，促進(jìn)互聯(lián)網(wǎng)信息服務(wù)健康有序發(fā)展，維護(hù)國(guó)家安全和社會(huì)公共利益，保護(hù)公民、法人和其他組織的合法權(quán)益。這是我國(guó)在人工智能治理領(lǐng)域出臺(tái)的又一重要法規(guī)，標(biāo)志著對(duì)以生成式人工智能為代表的深度合成技術(shù)及應(yīng)用進(jìn)入精細(xì)化、法治化監(jiān)管的新階段。
一、明確界定與監(jiān)管范圍，聚焦前沿技術(shù)應(yīng)用
《規(guī)定》首先對(duì)“深度合成技術(shù)”進(jìn)行了明確界定，指利用深度學(xué)習(xí)、虛擬現(xiàn)實(shí)等生成合成類(lèi)算法制作文本、圖像、音頻、視頻、虛擬場(chǎng)景等網(wǎng)絡(luò)信息的技術(shù)。具體包括但不限于：
- 生成或者編輯文本內(nèi)容，如智能寫(xiě)作、對(duì)話生成；
- 生成或者編輯語(yǔ)音、音樂(lè)、音頻，如語(yǔ)音克隆、歌曲生成；
- 生成或者編輯圖像、視頻內(nèi)容，如人臉替換、人物生成、場(chǎng)景生成、視頻增強(qiáng)/修復(fù)；
- 生成沉浸式擬真場(chǎng)景，如數(shù)字人、虛擬空間構(gòu)建；
- 其他具有生成或者顯著改變信息內(nèi)容功能的合成技術(shù)。
監(jiān)管對(duì)象涵蓋深度合成服務(wù)的提供者、技術(shù)支持者以及使用者，特別是強(qiáng)調(diào)了對(duì)具有輿論屬性或者社會(huì)動(dòng)員能力的深度合成服務(wù)提供者的重點(diǎn)監(jiān)管要求。
二、確立基本管理原則，壓實(shí)主體責(zé)任
《規(guī)定》確立了堅(jiān)持社會(huì)主義核心價(jià)值觀、維護(hù)國(guó)家安全和社會(huì)公共利益、促進(jìn)技術(shù)正向應(yīng)用、防范風(fēng)險(xiǎn)等基本原則。核心是壓實(shí)深度合成服務(wù)提供者和技術(shù)支持者的主體責(zé)任，要求其：
- 建立健全管理制度：包括算法機(jī)制機(jī)理審核、科技倫理審查、信息內(nèi)容管理、數(shù)據(jù)安全與個(gè)人信息保護(hù)、反電信網(wǎng)絡(luò)詐騙等制度。
- 落實(shí)真實(shí)身份認(rèn)證：對(duì)深度合成服務(wù)使用者進(jìn)行真實(shí)身份信息認(rèn)證，不得向未進(jìn)行真實(shí)身份認(rèn)證的用戶提供服務(wù)。
- 加強(qiáng)技術(shù)管理：采取技術(shù)措施保證深度合成過(guò)程可追溯，并定期審核、評(píng)估、驗(yàn)證生成合成類(lèi)算法機(jī)制機(jī)理。
- 明確標(biāo)識(shí)義務(wù)：對(duì)使用深度合成技術(shù)生成或者編輯的信息內(nèi)容，必須進(jìn)行顯著標(biāo)識(shí)（如加水印、添加標(biāo)識(shí)符等），避免公眾混淆和誤認(rèn)。
三、突出內(nèi)容安全與標(biāo)識(shí)要求，保障知情權(quán)
針對(duì)深度合成內(nèi)容可能引發(fā)的虛假信息傳播、侵權(quán)詐騙等問(wèn)題，《規(guī)定》設(shè)置了專門(mén)條款：
- 任何組織和個(gè)人不得利用深度合成服務(wù)制作、復(fù)制、發(fā)布、傳播法律、行政法規(guī)禁止的信息，或從事危害國(guó)家安全和利益、損害他人合法權(quán)益等活動(dòng)。
- 深度合成服務(wù)提供者應(yīng)對(duì)輸入數(shù)據(jù)和合成結(jié)果進(jìn)行審核，并記錄相關(guān)日志信息不少于六個(gè)月。
- 對(duì)于可能引發(fā)公眾混淆或者誤認(rèn)的深度合成信息內(nèi)容（如仿冒他人身份、仿冒新聞播報(bào)等），必須在合理位置、區(qū)域進(jìn)行顯著標(biāo)識(shí)，提示系“合成”或“虛擬”內(nèi)容。
- 提供智能對(duì)話、合成人聲、人臉生成、沉浸式擬真場(chǎng)景等具有交互功能服務(wù)的，應(yīng)當(dāng)明確提示用戶正在與AI交互。
四、加強(qiáng)數(shù)據(jù)與個(gè)人信息保護(hù)，規(guī)范訓(xùn)練數(shù)據(jù)使用
《規(guī)定》要求深度合成服務(wù)提供者和技術(shù)支持者加強(qiáng)訓(xùn)練數(shù)據(jù)管理：
- 提供人臉、人聲等生物識(shí)別信息編輯功能的，應(yīng)當(dāng)取得被編輯個(gè)人的單獨(dú)同意。
- 建立完善的數(shù)據(jù)管理制度，依法依規(guī)收集、使用、處理個(gè)人信息，并采取必要措施保障數(shù)據(jù)安全。
- 用于訓(xùn)練算法的數(shù)據(jù)若包含個(gè)人信息，應(yīng)遵守個(gè)人信息保護(hù)相關(guān)法律法規(guī)。
五、健全監(jiān)管與法律責(zé)任體系
《規(guī)定》明確了網(wǎng)信、電信、公安等部門(mén)的監(jiān)督管理職責(zé)，要求建立健全監(jiān)督檢查、技術(shù)檢測(cè)等機(jī)制。對(duì)于違反《規(guī)定》的行為，相關(guān)責(zé)任主體將依據(jù)《網(wǎng)絡(luò)安全法》、《數(shù)據(jù)安全法》、《個(gè)人信息保護(hù)法》等法律法規(guī)進(jìn)行處罰；構(gòu)成犯罪的，依法追究刑事責(zé)任。
六、意義與展望
此次《規(guī)定》的出臺(tái)，是對(duì)快速發(fā)展的深度合成技術(shù)及其廣泛應(yīng)用（如虛擬主播、AI繪畫(huà)、智能寫(xiě)作、換臉應(yīng)用等）帶來(lái)的安全風(fēng)險(xiǎn)和社會(huì)挑戰(zhàn)的積極應(yīng)對(duì)。它既為技術(shù)創(chuàng)新和應(yīng)用劃定了安全底線和倫理紅線，也為產(chǎn)業(yè)的健康發(fā)展提供了明確的規(guī)則指引，有助于構(gòu)建可信、安全、負(fù)責(zé)任的深度合成技術(shù)生態(tài)。隨著技術(shù)迭代和應(yīng)用深化，相關(guān)監(jiān)管措施和標(biāo)準(zhǔn)也將持續(xù)完善，以期在防范風(fēng)險(xiǎn)與激勵(lì)創(chuàng)新之間取得平衡，推動(dòng)人工智能技術(shù)更好地造福社會(huì)。
