近年來(lái)，深度合成作為一種人工智能內(nèi)容合成技術(shù)，風(fēng)頭正勁。技術(shù)的發(fā)展與風(fēng)險(xiǎn)相伴而生，當(dāng)深度合成技術(shù)在美顏、繪畫(huà)、主播、元宇宙等領(lǐng)域?yàn)榇蟊妿?lái)多樣化的交互體驗(yàn)時(shí)，其技術(shù)濫用也引發(fā)了侵權(quán)、詐騙等一系列問(wèn)題。2022年11月25日，國(guó)家網(wǎng)信辦、工信部、公安部聯(lián)合發(fā)布《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》（以下簡(jiǎn)稱(chēng)《規(guī)定》）。其中提出，深度合成服務(wù)提供者和技術(shù)支持者提供人臉、人聲等生物識(shí)別信息編輯功能的，應(yīng)當(dāng)提示深度合成服務(wù)使用者依法告知被編輯的個(gè)人，并取得其單獨(dú)同意?！兑?guī)定》自2023年1月10日起施行。

對(duì)于深度合成技術(shù)的監(jiān)管，此前在《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》《網(wǎng)絡(luò)音視頻信息服務(wù)管理規(guī)定》《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》等法規(guī)中均有提及，而《規(guī)定》則對(duì)深度合成內(nèi)容更有針對(duì)性地進(jìn)行規(guī)制，標(biāo)志著監(jiān)管部門(mén)針對(duì)互聯(lián)網(wǎng)信息內(nèi)容監(jiān)管版圖進(jìn)一步細(xì)化。

那么，究竟什么是深度合成技術(shù)？《規(guī)定》給出了答案：深度合成技術(shù)，是指利用深度學(xué)習(xí)、虛擬現(xiàn)實(shí)等生成合成類(lèi)算法制作文本、圖像、音頻、視頻、虛擬場(chǎng)景等網(wǎng)絡(luò)信息的技術(shù)。具體包括篇章生成、文本風(fēng)格轉(zhuǎn)換、問(wèn)答對(duì)話等生成或者編輯文本內(nèi)容的技術(shù)；文本轉(zhuǎn)語(yǔ)音、語(yǔ)音轉(zhuǎn)換、語(yǔ)音屬性編輯等生成或者編輯語(yǔ)音內(nèi)容的技術(shù)；音樂(lè)生成、場(chǎng)景聲編輯等生成或者編輯非語(yǔ)音內(nèi)容的技術(shù)；人臉生成、人臉替換、人物屬性編輯、人臉操控、姿態(tài)操控等生成或者編輯圖像、視頻內(nèi)容中生物特征的技術(shù)；圖像生成、圖像增強(qiáng)、圖像修復(fù)等生成或者編輯圖像、視頻內(nèi)容中非生物特征的技術(shù)，三維重建、數(shù)字仿真等生成或者編輯數(shù)字人物、虛擬場(chǎng)景的技術(shù)等。

深度合成技術(shù)是人工智能發(fā)展到一定階段的產(chǎn)物，其衍生出包括圖像合成、視頻合成、聲音合成和文本生成等多種技術(shù)，廣泛應(yīng)用于新聞傳媒、影視制作、娛樂(lè)、教育和電子商務(wù)等領(lǐng)域。不過(guò)，由于操作便捷，成本低廉，深度合成服務(wù)容易被不法人員利用，用于制作、復(fù)制、傳播違法信息，甚至仿用他人身份實(shí)施詐騙。如今常見(jiàn)或大熱的語(yǔ)音轉(zhuǎn)換、圖像修復(fù)、三維重建、虛擬人、AI換臉、AI繪畫(huà)等技術(shù)類(lèi)型都被涵蓋其中，而這些深度合成技術(shù)的濫用風(fēng)險(xiǎn)是看得見(jiàn)的。

為防止深度合成技術(shù)被用于犯罪活動(dòng)，《規(guī)定》對(duì)深度合成服務(wù)提供者、技術(shù)支持者等各方責(zé)任義務(wù)進(jìn)行了系統(tǒng)性制度設(shè)計(jì)，包括算法機(jī)制機(jī)理審核、信息內(nèi)容管理、安全評(píng)估、從業(yè)人員教育培訓(xùn)等。

《規(guī)定》明確，任何組織和個(gè)人不得利用深度合成服務(wù)制作、復(fù)制、發(fā)布、傳播法律、行政法規(guī)禁止的信息，或從事危害國(guó)家安全和利益、損害國(guó)家形象、侵害社會(huì)公共利益、擾亂經(jīng)濟(jì)和社會(huì)秩序、侵犯他人合法權(quán)益等法律、行政法規(guī)禁止的活動(dòng)。

同時(shí)，《規(guī)定》要求，深度合成服務(wù)提供者建立健全用戶(hù)注冊(cè)、算法機(jī)制機(jī)理審核、科技倫理審查、信息發(fā)布審核、數(shù)據(jù)安全、個(gè)人信息保護(hù)、反電信網(wǎng)絡(luò)詐騙、應(yīng)急處置等管理制度；制定和公開(kāi)管理規(guī)則、平臺(tái)公約，完善服務(wù)協(xié)議，落實(shí)真實(shí)身份信息認(rèn)證制度；采取技術(shù)或者人工方式對(duì)輸入數(shù)據(jù)和合成結(jié)果進(jìn)行審核，建立健全用于識(shí)別違法和不良信息的特征庫(kù)；建立健全辟謠機(jī)制等。

在《算法規(guī)定》明確“不得生成合成虛假新聞信息”的基礎(chǔ)上，《規(guī)定》也對(duì)相關(guān)主體，在新聞?shì)浾擃I(lǐng)域的深度合成技術(shù)運(yùn)用進(jìn)行了規(guī)范。

按照《規(guī)定》，深度合成服務(wù)提供者和使用者不得利用深度合成服務(wù)制作、復(fù)制、發(fā)布、傳播虛假新聞信息。轉(zhuǎn)載基于深度合成服務(wù)制作發(fā)布的新聞信息的，應(yīng)當(dāng)依法轉(zhuǎn)載互聯(lián)網(wǎng)新聞信息稿源單位發(fā)布的新聞信息。此外，具有輿論屬性或者社會(huì)動(dòng)員能力的深度合成服務(wù)提供者，應(yīng)當(dāng)按照《算法規(guī)定》履行備案和變更、注銷(xiāo)備案手續(xù)；深度合成服務(wù)提供者開(kāi)發(fā)上線具有輿論屬性或者社會(huì)動(dòng)員能力的新產(chǎn)品、新應(yīng)用、新功能的，應(yīng)當(dāng)按照國(guó)家有關(guān)規(guī)定開(kāi)展安全評(píng)估。

中國(guó)信息通信研究院副院長(zhǎng)王志勤認(rèn)為，《規(guī)定》有效銜接了相關(guān)法律法規(guī)。在網(wǎng)絡(luò)安全法、數(shù)據(jù)安全法、個(gè)人信息保護(hù)法、《互聯(lián)網(wǎng)信息服務(wù)管理辦法》等上位法框架下，《規(guī)定》有效承接了《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》《網(wǎng)絡(luò)音視頻信息服務(wù)管理規(guī)定》《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》等規(guī)章、規(guī)范性文件中關(guān)于網(wǎng)絡(luò)信息內(nèi)容管理、新技術(shù)新應(yīng)用安全評(píng)估、顯著標(biāo)識(shí)、備案管理等制度規(guī)定，對(duì)深度合成服務(wù)管理機(jī)制、主體責(zé)任等作出了銜接性制度安排。

除深度合成服務(wù)提供者以外，《規(guī)定》也將深度合成服務(wù)技術(shù)支持者納入監(jiān)管，明確他們的數(shù)據(jù)和技術(shù)管理規(guī)范。

《規(guī)定》明確，深度合成服務(wù)提供者和技術(shù)支持者應(yīng)當(dāng)加強(qiáng)訓(xùn)練數(shù)據(jù)管理。采取必要措施保障訓(xùn)練數(shù)據(jù)安全之余，提供人臉、人聲等生物識(shí)別信息顯著編輯功能的，應(yīng)當(dāng)提示使用者依法告知被編輯的個(gè)人，并取得其單獨(dú)同意。

深度合成服務(wù)提供者和技術(shù)支持者還應(yīng)當(dāng)加強(qiáng)技術(shù)管理，定期審核、評(píng)估、驗(yàn)證生成合成類(lèi)算法機(jī)制機(jī)理。其中，對(duì)具有生成或者編輯人臉、人聲等生物識(shí)別信息，可能涉及國(guó)家安全、國(guó)家形象、國(guó)家利益和社會(huì)公共利益的特殊物體、場(chǎng)景等非生物識(shí)別信息的模型、模板等工具，應(yīng)當(dāng)依法自行或者委托專(zhuān)業(yè)機(jī)構(gòu)開(kāi)展安全評(píng)估。

此外，《算法規(guī)定》要求，發(fā)現(xiàn)未作顯著標(biāo)識(shí)的算法生成合成信息的，應(yīng)當(dāng)作出顯著標(biāo)識(shí)后，方可繼續(xù)傳輸?！兑?guī)定》在此基礎(chǔ)上進(jìn)一步細(xì)化，通過(guò)顯著標(biāo)識(shí)和隱式標(biāo)識(shí)兩種方式對(duì)深度合成信息進(jìn)行規(guī)范。

按照《規(guī)定》，深度合成服務(wù)提供者對(duì)使用其服務(wù)生成或者編輯的信息內(nèi)容，應(yīng)當(dāng)采取技術(shù)措施添加不影響用戶(hù)使用的標(biāo)識(shí)。提供智能對(duì)話、智能寫(xiě)作、合成人聲、仿聲、人臉生成、人臉替換、人臉操控、姿態(tài)操控、沉浸式擬真場(chǎng)景等具有生成或者顯著改變信息內(nèi)容功能的服務(wù)，可能導(dǎo)致公眾混淆或者誤認(rèn)的，深度合成服務(wù)提供者應(yīng)當(dāng)在生成或者編輯的信息內(nèi)容的合理位置、區(qū)域進(jìn)行顯著標(biāo)識(shí)，向公眾提示深度合成情況。

“《規(guī)定》是目前我國(guó)針對(duì)深度合成服務(wù)出臺(tái)的第一部專(zhuān)門(mén)性部門(mén)規(guī)章，作出了一系列明確合規(guī)指引，對(duì)加強(qiáng)互聯(lián)網(wǎng)信息服務(wù)深度合成管理、促進(jìn)互聯(lián)網(wǎng)信息服務(wù)健康發(fā)展、推進(jìn)網(wǎng)絡(luò)空間治理意義重大，影響深遠(yuǎn)。”中國(guó)科學(xué)院信息工程研究所所長(zhǎng)孟丹表示。

“深度合成服務(wù)從相繼被納入到相關(guān)規(guī)定中監(jiān)管，到出臺(tái)專(zhuān)門(mén)的規(guī)章進(jìn)行規(guī)制，顯示出我國(guó)一方面引導(dǎo)深度合成技術(shù)良性發(fā)展，另一方面堅(jiān)決打擊利用深度合成服務(wù)制作傳播違法不良信息、危害信息內(nèi)容安全、社會(huì)公共利益和國(guó)家安全的行為。”在中國(guó)政法大學(xué)副校長(zhǎng)時(shí)建中看來(lái)，深度合成技術(shù)展現(xiàn)了其強(qiáng)大的能量和可能性，加速應(yīng)用已經(jīng)成為現(xiàn)實(shí)趨勢(shì)。在合規(guī)前提下，深度合成技術(shù)創(chuàng)新發(fā)展，不斷開(kāi)拓應(yīng)用場(chǎng)景，將形成對(duì)人工智能產(chǎn)業(yè)整體的帶動(dòng)效應(yīng)，促進(jìn)技術(shù)向上向善。

本網(wǎng)站及其公眾號(hào)為公益性網(wǎng)絡(luò)平臺(tái)，所發(fā)圖文僅供傳播信息、介紹知識(shí)、說(shuō)明問(wèn)題之用；相關(guān)版權(quán)歸原作者所有，轉(zhuǎn)載請(qǐng)務(wù)必注明出處和作者。

稿件一經(jīng)選用，即視為作者同意本網(wǎng)免費(fèi)將其使用于本網(wǎng)或與本網(wǎng)有合作關(guān)系的非贏利性各類(lèi)出版物、互聯(lián)網(wǎng)與手機(jī)端媒體及專(zhuān)業(yè)學(xué)術(shù)文庫(kù)等。

由稿件引起的著作權(quán)問(wèn)題及其法律責(zé)任由作者自行承擔(dān)。

了解更多動(dòng)態(tài)，請(qǐng)掃描二維碼，關(guān)注我們的微信公眾號(hào)：