國(guó)家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部、公安部三部門(mén)聯(lián)合印發(fā)了《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》(以下簡(jiǎn)稱《規(guī)定》),旨在加強(qiáng)對(duì)深度合成技術(shù)(Deep Synthesis Technology)的規(guī)范管理,促進(jìn)互聯(lián)網(wǎng)信息服務(wù)健康有序發(fā)展,維護(hù)國(guó)家安全和社會(huì)公共利益,保護(hù)公民、法人和其他組織的合法權(quán)益。這是我國(guó)在人工智能治理領(lǐng)域出臺(tái)的又一重要法規(guī),標(biāo)志著對(duì)以生成式人工智能為代表的深度合成技術(shù)及應(yīng)用進(jìn)入精細(xì)化、法治化監(jiān)管的新階段。
一、明確界定與監(jiān)管范圍,聚焦前沿技術(shù)應(yīng)用
《規(guī)定》首先對(duì)“深度合成技術(shù)”進(jìn)行了明確界定,指利用深度學(xué)習(xí)、虛擬現(xiàn)實(shí)等生成合成類(lèi)算法制作文本、圖像、音頻、視頻、虛擬場(chǎng)景等網(wǎng)絡(luò)信息的技術(shù)。具體包括但不限于:
- 生成或者編輯文本內(nèi)容,如智能寫(xiě)作、對(duì)話生成;
- 生成或者編輯語(yǔ)音、音樂(lè)、音頻,如語(yǔ)音克隆、歌曲生成;
- 生成或者編輯圖像、視頻內(nèi)容,如人臉替換、人物生成、場(chǎng)景生成、視頻增強(qiáng)/修復(fù);
- 生成沉浸式擬真場(chǎng)景,如數(shù)字人、虛擬空間構(gòu)建;
- 其他具有生成或者顯著改變信息內(nèi)容功能的合成技術(shù)。
監(jiān)管對(duì)象涵蓋深度合成服務(wù)的提供者、技術(shù)支持者以及使用者,特別是強(qiáng)調(diào)了對(duì)具有輿論屬性或者社會(huì)動(dòng)員能力的深度合成服務(wù)提供者的重點(diǎn)監(jiān)管要求。
二、確立基本管理原則,壓實(shí)主體責(zé)任
《規(guī)定》確立了堅(jiān)持社會(huì)主義核心價(jià)值觀、維護(hù)國(guó)家安全和社會(huì)公共利益、促進(jìn)技術(shù)正向應(yīng)用、防范風(fēng)險(xiǎn)等基本原則。核心是壓實(shí)深度合成服務(wù)提供者和技術(shù)支持者的主體責(zé)任,要求其:
- 建立健全管理制度:包括算法機(jī)制機(jī)理審核、科技倫理審查、信息內(nèi)容管理、數(shù)據(jù)安全與個(gè)人信息保護(hù)、反電信網(wǎng)絡(luò)詐騙等制度。
- 落實(shí)真實(shí)身份認(rèn)證:對(duì)深度合成服務(wù)使用者進(jìn)行真實(shí)身份信息認(rèn)證,不得向未進(jìn)行真實(shí)身份認(rèn)證的用戶提供服務(wù)。
- 加強(qiáng)技術(shù)管理:采取技術(shù)措施保證深度合成過(guò)程可追溯,并定期審核、評(píng)估、驗(yàn)證生成合成類(lèi)算法機(jī)制機(jī)理。
- 明確標(biāo)識(shí)義務(wù):對(duì)使用深度合成技術(shù)生成或者編輯的信息內(nèi)容,必須進(jìn)行顯著標(biāo)識(shí)(如加水印、添加標(biāo)識(shí)符等),避免公眾混淆和誤認(rèn)。
三、突出內(nèi)容安全與標(biāo)識(shí)要求,保障知情權(quán)
針對(duì)深度合成內(nèi)容可能引發(fā)的虛假信息傳播、侵權(quán)詐騙等問(wèn)題,《規(guī)定》設(shè)置了專門(mén)條款:
- 任何組織和個(gè)人不得利用深度合成服務(wù)制作、復(fù)制、發(fā)布、傳播法律、行政法規(guī)禁止的信息,或從事危害國(guó)家安全和利益、損害他人合法權(quán)益等活動(dòng)。
- 深度合成服務(wù)提供者應(yīng)對(duì)輸入數(shù)據(jù)和合成結(jié)果進(jìn)行審核,并記錄相關(guān)日志信息不少于六個(gè)月。
- 對(duì)于可能引發(fā)公眾混淆或者誤認(rèn)的深度合成信息內(nèi)容(如仿冒他人身份、仿冒新聞播報(bào)等),必須在合理位置、區(qū)域進(jìn)行顯著標(biāo)識(shí),提示系“合成”或“虛擬”內(nèi)容。
- 提供智能對(duì)話、合成人聲、人臉生成、沉浸式擬真場(chǎng)景等具有交互功能服務(wù)的,應(yīng)當(dāng)明確提示用戶正在與AI交互。
四、加強(qiáng)數(shù)據(jù)與個(gè)人信息保護(hù),規(guī)范訓(xùn)練數(shù)據(jù)使用
《規(guī)定》要求深度合成服務(wù)提供者和技術(shù)支持者加強(qiáng)訓(xùn)練數(shù)據(jù)管理:
- 提供人臉、人聲等生物識(shí)別信息編輯功能的,應(yīng)當(dāng)取得被編輯個(gè)人的單獨(dú)同意。
- 建立完善的數(shù)據(jù)管理制度,依法依規(guī)收集、使用、處理個(gè)人信息,并采取必要措施保障數(shù)據(jù)安全。
- 用于訓(xùn)練算法的數(shù)據(jù)若包含個(gè)人信息,應(yīng)遵守個(gè)人信息保護(hù)相關(guān)法律法規(guī)。
五、健全監(jiān)管與法律責(zé)任體系
《規(guī)定》明確了網(wǎng)信、電信、公安等部門(mén)的監(jiān)督管理職責(zé),要求建立健全監(jiān)督檢查、技術(shù)檢測(cè)等機(jī)制。對(duì)于違反《規(guī)定》的行為,相關(guān)責(zé)任主體將依據(jù)《網(wǎng)絡(luò)安全法》、《數(shù)據(jù)安全法》、《個(gè)人信息保護(hù)法》等法律法規(guī)進(jìn)行處罰;構(gòu)成犯罪的,依法追究刑事責(zé)任。
六、意義與展望
此次《規(guī)定》的出臺(tái),是對(duì)快速發(fā)展的深度合成技術(shù)及其廣泛應(yīng)用(如虛擬主播、AI繪畫(huà)、智能寫(xiě)作、換臉應(yīng)用等)帶來(lái)的安全風(fēng)險(xiǎn)和社會(huì)挑戰(zhàn)的積極應(yīng)對(duì)。它既為技術(shù)創(chuàng)新和應(yīng)用劃定了安全底線和倫理紅線,也為產(chǎn)業(yè)的健康發(fā)展提供了明確的規(guī)則指引,有助于構(gòu)建可信、安全、負(fù)責(zé)任的深度合成技術(shù)生態(tài)。隨著技術(shù)迭代和應(yīng)用深化,相關(guān)監(jiān)管措施和標(biāo)準(zhǔn)也將持續(xù)完善,以期在防范風(fēng)險(xiǎn)與激勵(lì)創(chuàng)新之間取得平衡,推動(dòng)人工智能技術(shù)更好地造福社會(huì)。