【法寶引證碼】CLI.A.4124618
【學(xué)科類別】人工智能
【出處】《法律科學(xué)》2023年第3期
【寫作時間】2023年
【中文摘要】以Deepfake、ChatGPT、元宇宙等為代表的深度合成技術(shù)與應(yīng)用場景，極大地改變了信息獲取、人機(jī)交互的方式，并成為未來數(shù)字空間的基礎(chǔ)性技術(shù)。我國的深度合成治理已經(jīng)走在世界前列，但仍主要停留在算法治理衍生出的信息安全層面，偏重服務(wù)應(yīng)用監(jiān)管而底層技術(shù)治理不足，偏重監(jiān)管服務(wù)提供者但監(jiān)管技術(shù)提供者尚不充分，數(shù)據(jù)與場景分級分類標(biāo)準(zhǔn)繁雜但并未形成有機(jī)體系。深度合成治理應(yīng)在算法治理基礎(chǔ)上延伸迭代，將深度合成作為人工智能治理的專門領(lǐng)域，同時通過頂層設(shè)計推進(jìn)基礎(chǔ)性人工智能立法，既保障急用先行，又可探索并形成通用人工智能立法的經(jīng)驗。既應(yīng)發(fā)揮中國既有的深度合成治理優(yōu)勢，根據(jù)生成型人工智能技術(shù)特點(diǎn)更新監(jiān)管邏輯，基于生成型人工智能技術(shù)的通用性實(shí)施全鏈條治理；同時還需立足現(xiàn)行法規(guī)中分級分類治理架構(gòu)，結(jié)合技術(shù)、產(chǎn)業(yè)和應(yīng)用建立有機(jī)體系和設(shè)置具體規(guī)則，以形成在全球更具影響力的深度合成治理法律制度體系。
【中文關(guān)鍵字】深度合成；生成型人工智能；ChatGPT；分級分類標(biāo)準(zhǔn)；技術(shù)治理
【全文】
一、引言
深度合成技術(shù)和應(yīng)用的迅猛發(fā)展似乎更加證明了“未來已來”。從可以做出換臉視頻的Deepfake開源軟件，到2021年美國Meta公司將“元宇宙”描繪為數(shù)字技術(shù)構(gòu)建、數(shù)字身份參與的虛擬空間，再到美國Open AI公司開發(fā)的ChatGPT兩個月內(nèi)積累一億用戶創(chuàng)造歷史記錄，深度合成技術(shù)支持下的AIGC（AI Generated Content,指利用人工智能技術(shù)來生成內(nèi)容）商業(yè)開發(fā)在很多領(lǐng)域落地，一幅由人工智能深度合成技術(shù)構(gòu)建的虛實(shí)結(jié)合的生存圖景正徐徐展開。一切仿佛科幻，但卻已經(jīng)逐漸成為現(xiàn)實(shí)。
深度合成技術(shù)，是指利用以深度學(xué)習(xí)、虛擬現(xiàn)實(shí)為代表的生成合成制作文本、圖像、音頻、視頻、虛擬場景等信息的技術(shù)。深度合成技術(shù)的代表性研究成果，如2014年提出的生成對抗網(wǎng)絡(luò)（GANs）、2020年提出的生成式預(yù)訓(xùn)練模型（GPT-3），大幅提升了多媒體數(shù)據(jù)合成的逼真程度，推動了“人工智能生成內(nèi)容”和“元宇宙”等一系列新型智能應(yīng)用形態(tài)。正如比爾·蓋茨所說，“這種AI技術(shù)出現(xiàn)的重大歷史意義，不亞于互聯(lián)網(wǎng)和個人電腦的誕生”。
深度合成展現(xiàn)了其強(qiáng)大的能量和可能性，但其帶來效率和便利的同時，也帶來了伴生風(fēng)險，一旦被濫用可能會給個人肖像、企業(yè)名譽(yù)等人格和財產(chǎn)權(quán)益損害，甚至對社會秩序、國家政治穩(wěn)定和安全造成巨大威脅。如在俄烏沖突中，深度合成偽造的烏克蘭總統(tǒng)宣布投降的虛假視頻在推特上傳播，獲得了大量瀏覽，推特不得不緊急辟謠；企業(yè)高管被深度合成捏造視頻篡改發(fā)言內(nèi)容，造成市場恐慌，引發(fā)金融市場動蕩。個人也可能被偽造虛假視頻并被用來向其親友詐騙，或者被偽造不雅視頻，侵害其名譽(yù)權(quán)。在上述現(xiàn)實(shí)危害之外，深度合成還引發(fā)了社會對人類未來的擔(dān)憂。在深度合成技術(shù)應(yīng)用發(fā)展歷程中，2021年Meta公司推出的元宇宙概念和2022年底Open AI推出的ChatGPT激起了公眾對于人類本質(zhì)、認(rèn)知模式、生存方式和AI主體性的哲學(xué)思考，法學(xué)界則開始討論深度合成技術(shù)構(gòu)建的元宇宙空間的數(shù)字貨幣、數(shù)字身份、社會生產(chǎn)與刑法治理等問題。
在世界各國對深度合成的技術(shù)治理中，我國立法與監(jiān)管走在了前列。早在我國2022年3月開始實(shí)施的《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》（以下簡稱《算法推薦管理規(guī)定》）中，就有對生成合成類算法監(jiān)管的規(guī)定（其他四類被納入管理的算法為排序精選類、檢索過濾類、個性化推送類、調(diào)度決策類）；2023年1月1日開始實(shí)施的《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》（以下簡稱《深度合成管理規(guī)定》），標(biāo)志著深度合成因其重要性和高風(fēng)險程度成為我國算法治理中率先專門立法的算法服務(wù)類型。目前，美國只有少數(shù)幾個州發(fā)布了關(guān)于深度合成技術(shù)的法規(guī)，而且這些法規(guī)旨在規(guī)制影響選舉的深度合成以及色情作品或虛假信息的深度合成。歐盟通過對《數(shù)字服務(wù)法》的修訂，要求平臺進(jìn)行深度合成標(biāo)注。由此可見，世界范圍內(nèi)深度合成的治理聚焦的是虛假信息內(nèi)容；即使是針對人工智能深度合成的專門治理，也以傳統(tǒng)人工智能為主，而非以大型生成性人工智能模型（LGAIMs）為主要治理對象。
深度合成技術(shù)有其特有的技術(shù)特征，因而針對其的治理也應(yīng)當(dāng)遵循其自身邏輯。本文論述圍繞我國深度合成治理的監(jiān)管理念和未來走向展開，討論其治理迭代路徑，監(jiān)管工具、責(zé)任鏈條，以及分級分類和技術(shù)、產(chǎn)業(yè)、應(yīng)用分層的多維治理制度構(gòu)建。
二、深度合成的概念與治理挑戰(zhàn)
深度合成在我國法律法規(guī)中已經(jīng)采用，具體代指生成合成類人工智能的技術(shù)概念。如《深度合成管理規(guī)定》第23條專門界定了“深度合成”概念。目前深度合成概念能夠較好地囊括生成合成類人工智能的諸多新興技術(shù)，準(zhǔn)確描述其技術(shù)本質(zhì)和功能，且比寬泛的人工智能概念更具針對性。本部分結(jié)合深度合成技術(shù)的發(fā)展，梳理深度合成概念與人工智能、生成型人工智能、ChatGPT、元宇宙等概念的關(guān)系，并討論其作為學(xué)術(shù)研究通用概念的優(yōu)勢。深度合成的迅猛發(fā)展，不僅推進(jìn)了大數(shù)據(jù)、算法等技術(shù)的迭代發(fā)展，而且可能會影響未來人類的認(rèn)知和生存方式。深度合成也給圍繞數(shù)據(jù)、個人信息和算法規(guī)制的制度設(shè)計和技術(shù)治理帶來了前所未有的挑戰(zhàn)。
（一） 深度合成的概念
實(shí)踐中，龐雜的技術(shù)概念已經(jīng)成為制約社會科學(xué)研究者理解、研究相關(guān)技術(shù)法律問題的瓶頸。如人工智能、算法、大數(shù)據(jù)、深度合成、大規(guī)模預(yù)訓(xùn)練模型、生成型人工智能等概念，令人眼花繚亂。而元宇宙、ChatGPT、生成型人工智能等概念，也與“深度合成”等概念存在著近似和混淆。精準(zhǔn)選定和界定概念是科學(xué)研究展開的前提。本文選擇“深度合成”作為研究的關(guān)鍵概念。
第一， 深度合成是技術(shù)概念，而非商業(yè)應(yīng)用概念。本文的討論區(qū)分應(yīng)用概念與技術(shù)概念。一般來說，應(yīng)用概念更容易被媒體更廣泛傳播并為社會熟知，但技術(shù)概念的傳播一般限于學(xué)術(shù)界。如感康、泰諾和康泰克這些感冒藥的藥品名被大眾熟知，但藥品中的乙酰氨基酚等拗口的藥品成分概念，則難以被公眾記憶。同樣，淘寶、抖音、元宇宙、ChatGPT等應(yīng)用概念因其商業(yè)應(yīng)用可直接與人互動而廣為人知，但淘寶背后的排序算法、抖音背后的個性化推薦算法、支持元宇宙的生成合成技術(shù)、支持ChatGPT的大規(guī)模預(yù)訓(xùn)練模型等概念則不易為一般公眾所知。學(xué)術(shù)討論應(yīng)盡量使用技術(shù)概念而非應(yīng)用概念，否則某些概念可能會因商業(yè)應(yīng)用的衰落而淪落為短暫的社會討論現(xiàn)象。
第二， 深度合成并非人工智能概念那樣抽象模糊，而是有明確功能的概念。自1956年“人工智能”的概念被首次提出以來，人工智能的技術(shù)研發(fā)經(jīng)歷了兩次起伏。斯坦福的研究報告顯示，“人工智能”的技術(shù)概念本身就是跟隨技術(shù)進(jìn)步而不斷革新的，每當(dāng)一種新的模擬與延展人類智能的人工智能技術(shù)融入社會生活之中，它便會脫離“人工智能”的含義范圍；然后，會有全新的、尚未有明確道德規(guī)范的技術(shù)出現(xiàn)，并融入“人工智能”的含義范圍內(nèi)；這樣，除舊納新的變動過程隨著技術(shù)創(chuàng)新而持續(xù)發(fā)生，這種現(xiàn)象被稱為“人工智能效益”（AI Effect）或“奇怪悖論”（Odd Paradox）。簡而言之，人們傾向于把尚未形成產(chǎn)業(yè)應(yīng)用的新興技術(shù)稱為人工智能，而對已經(jīng)存在于生產(chǎn)、生活中的諸如自動駕駛、智能醫(yī)療、智能投顧等人工智能技術(shù)，則稱呼其具體名稱。深度合成是人工智能的具體領(lǐng)域，它以人工智能深度學(xué)習(xí)為方法，合成逼真內(nèi)容為目標(biāo)。因此本文不采用人工智能概念作為討論對象，而采用可明確具體功能的深度合成概念。
第三， 深度合成有較強(qiáng)的功能概括性，并非某種具體的新興技術(shù)手段。人工智能發(fā)展到2010年，基于深度學(xué)習(xí)技術(shù)獲得了顯著成效，同時社會的數(shù)字化轉(zhuǎn)型也使得社會數(shù)據(jù)資源顯著增長，人工智能的發(fā)展才開始進(jìn)入全面爆發(fā)期。深度合成的特點(diǎn)可從兩個角度理解，第一為有關(guān)技術(shù)的“深度”，第二為有關(guān)結(jié)果的“合成”。“深度”即是指深度學(xué)習(xí)，無論是卷積神經(jīng)網(wǎng)絡(luò)、自然語言處理，還是預(yù)訓(xùn)練大模型、大型生成性人工智能模型（LGAIMs），目前都處在深度學(xué)習(xí)階段，即用算法從海量數(shù)據(jù)中學(xué)習(xí)，以提高算法的智能性和準(zhǔn)確性。算法已經(jīng)越來越復(fù)雜，如果說常用算法在技術(shù)層面只是一個基礎(chǔ)模型，那么以ChatGPT為代表的“大型語言模型”（LLMs）或“大型生成人工智能模型”（LGAIMs），則代表著深度合成領(lǐng)域的重大技術(shù)進(jìn)步；后兩者與前者的區(qū)別在于大型語言模型和大型生成人工智能模型通常用幾十億甚至幾千億的參數(shù)進(jìn)行訓(xùn)練，需要海量的訓(xùn)練數(shù)據(jù)和計算能力。“合成”即基于海量數(shù)據(jù)生成合并結(jié)果，可達(dá)到從無到有、以假亂真的效果。逼真的合成效果打亂了人類認(rèn)知的兩個底層邏輯：其一是認(rèn)為人和機(jī)器有著本質(zhì)區(qū)別；其二是俗語所說“耳聽為虛，眼見為實(shí)”“有圖有真相”。深度合成以“真”為技術(shù)目標(biāo)，如可比擬專家回答問題的ChatGPT就在一定程度上模糊了人和機(jī)器智能的界限。深度合成技術(shù)完成的繪畫、作曲和作詩水準(zhǔn)與一般人完成的作品的水準(zhǔn)不相上下；深度合成生成的照片、視頻，使得未發(fā)生的事情有了逼真的具體場景。可見，深度合成概念，能夠較為準(zhǔn)確地描述“深度”“合成”技術(shù)的功能。
第四， 最后也是最重要的是，深度合成已經(jīng)成為法律概念，具有了在法學(xué)界成為學(xué)術(shù)概念進(jìn)行討論的制度基礎(chǔ)。如2023年1月1日生效的《深度合成管理規(guī)定》由國家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部以及公安部共同發(fā)布，規(guī)定明確界定“深度合成技術(shù)，是指利用深度學(xué)習(xí)、虛擬現(xiàn)實(shí)等生成合成類算法制作文本、圖像、音頻、視頻、虛擬場景等網(wǎng)絡(luò)信息的技術(shù)”；規(guī)定采取了開放的列舉方法，大致囊括了深度合成的前沿應(yīng)用情形，如：生成或者編輯文本，生成或者編輯語音和音樂，圖像和視頻的生成編輯（生物特征和非生物特征），甚至包括了三維重建、數(shù)字仿生等生成或者編輯數(shù)字任務(wù)、虛擬場景的技術(shù)。按照《深度合成管理規(guī)定》的定義，AI語音、NFT生成藝術(shù)、虛擬演唱會、全息人像投影、虛擬人數(shù)字人、AR購物等元宇宙的重要組成部分都屬于深度合成技術(shù)的具體應(yīng)用。這種功能式的列舉可容納未來的技術(shù)發(fā)展，包括目前的生成合成類算法、生成型人工智能、AIGC（人工智能技術(shù)生成內(nèi)容）應(yīng)用等。雖然目前法規(guī)中列舉的深度合成應(yīng)用未必能夠當(dāng)然涵蓋預(yù)訓(xùn)練大模型技術(shù)，但由于預(yù)訓(xùn)練大模型技術(shù)同深度合成技術(shù)的功能和原理大致相通，因而我們可以通過法解釋，將預(yù)訓(xùn)練大模型技術(shù)納入《深度合成管理規(guī)定》的調(diào)整范圍。
（二） 深度合成的應(yīng)用場景
深度合成的應(yīng)用場景多樣，囊括了生成合成文本、圖片、音頻、視頻等技術(shù)，也可以被用來營建數(shù)字環(huán)境虛擬場景（如元宇宙），打造與物理世界、人類生物特征類似的數(shù)字孿生世界，生成數(shù)字人。深度合成技術(shù)基于海量數(shù)據(jù)和深度學(xué)習(xí)“生成合成”內(nèi)容，其內(nèi)容的形態(tài)可以是圖像、音頻、視頻、文本，因此深度合成技術(shù)可以被用來進(jìn)行人臉與場景的圖像改變、聲音和音樂的創(chuàng)制生成、動作與表情的操控，以及通過與人對答的方式生成文本，或直接自行創(chuàng)作文本，可以被用在教育、影視、傳媒等領(lǐng)域。根據(jù)生成的內(nèi)容不同，深度合成一般被用于包括但不限于以下場景：
第一， 文本與圖像生成。早在2014年，就有從事機(jī)器新聞寫作的人工智能，如美聯(lián)社采用的自動寫作平臺Wordsmith,其本質(zhì)上是一種自然語言生成引擎，涉及數(shù)據(jù)庫知識發(fā)現(xiàn)（KDD）以及自然語言處理（NLG）兩個領(lǐng)域，其寫作流程包括獲取數(shù)據(jù)，分析數(shù)據(jù)，提煉觀點(diǎn)、結(jié)構(gòu)和格式，出版。這種文本生成可包括知識生成后以文本的形式輸出。當(dāng)下引起人們廣泛關(guān)注的ChatGPT也是自然語言處理（NLP）系統(tǒng)，但ChatGPT與之前技術(shù)的不同之處在于其采用了海量數(shù)據(jù)訓(xùn)練的大規(guī)模人工智能模型。這些模型采用的數(shù)據(jù)量大得驚人，如其前身GPT——3是在45兆字節(jié)的文本數(shù)據(jù)上訓(xùn)練的，這使得其生成的文本更加具有創(chuàng)造性。更重要的是這些模型通常設(shè)置了隨機(jī)元素，意味著它們可以以不同的輸出應(yīng)對同一個輸入請求，使得ChatGPT看起來更加栩栩如生。
第二， 視頻與音頻生成。深度合成的語音合成項目可以使失去聲音的人重新說話，英特爾與戴爾科技、勞斯萊斯和運(yùn)動神經(jīng)元疾病（MND）協(xié)會合作的“我永遠(yuǎn)是我”數(shù)字故事書項目，允許任何被診斷患有預(yù)計會影響其說話能力的疾病的人錄制他們的聲音，以便未來在輔助性語音設(shè)備上使用。這一功能還被用來偽造視頻音頻進(jìn)行違法犯罪活動。2021年10月，安徽合肥警方曾查獲一起非法利用深度合成技術(shù)偽造手機(jī)用戶人臉動態(tài)視頻破解身份核驗并為黑灰產(chǎn)業(yè)提供注冊虛擬手機(jī)卡等技術(shù)支撐的案件。近年來，類似事件開始更多地進(jìn)入公眾視野。深度合成中的生成型人工智能必將深入影響所有的社會部門，從商業(yè)、醫(yī)學(xué)到教育研究，從編碼到娛樂和藝術(shù)。今天，數(shù)以百萬計的用戶依靠它們來生成可達(dá)到人類水平的文本（如ChatGPT、Luminous）、圖像（如Stable Diffusion、DALLE2）、視頻（如Synthesia）或音頻（如MusicLM），而更多的替代品已經(jīng)在開發(fā)中。由于預(yù)訓(xùn)練人工智能大模型的規(guī)模效應(yīng)，ChatGPT和類似軟件能夠預(yù)測一切句子中的下一個詞，從而展現(xiàn)出令人難以置信的連接詞語的能力。ChatGPT等生成型人工智能引起廣泛關(guān)注的原因還在于其更改了知識傳遞的方式，極大地降低了專業(yè)知識的獲取門檻，使得專業(yè)知識生成不再需要人類數(shù)十年的專業(yè)訓(xùn)練就可以得到。如創(chuàng)建自定義銷售序列的Regie.ai使用生成式AI和最佳實(shí)踐在幾分鐘內(nèi)就可以編寫原始序列，并且序列編寫能大幅度節(jié)約時間且高效；該技術(shù)可直接與領(lǐng)先的銷售參與平臺集成，減少了將消息傳遞到市場并初顯成效所需的時間。
第三， 數(shù)字空間的建構(gòu)。一是虛實(shí)融合的數(shù)字空間。數(shù)字孿生就是基于人工智能深度合成現(xiàn)實(shí)世界實(shí)體的虛擬復(fù)制品，這項技術(shù)已經(jīng)在制造業(yè)和工業(yè)部門被廣泛采用。未來深度合成有可能與物聯(lián)網(wǎng)共同設(shè)計改善智能城市的應(yīng)用能力，即創(chuàng)制與現(xiàn)實(shí)城市完全相同的數(shù)字空間，用于智能醫(yī)療、交通和環(huán)境管理。二是完全虛擬的數(shù)字空間。2021年臉書宣布更名為“Meta”（元宇宙），緊接著Meta在2021年9月宣布旗下元宇宙平臺Horizon Worlds正式面向美國與加拿大地區(qū)18歲以上的成年人開放，該平臺允許用戶構(gòu)建自己的虛擬世界，并提供了系列的模板和工具。
第四， 數(shù)字人的生成與操控。虛擬數(shù)字人的合成須集成多項深度合成技術(shù)，以實(shí)現(xiàn)人物形象生成，語音生成，動畫生成，音視頻合成顯示和交互。這一技術(shù)是深度合成的擬人化應(yīng)用，其商業(yè)落地路徑較清晰。國內(nèi)頭部數(shù)字人企業(yè)已經(jīng)推出了冬奧手語數(shù)字人、央視數(shù)字主持人等應(yīng)用。未來智能管家、伴侶、偶像、專家、教師的生成和運(yùn)維均需要多個領(lǐng)域深度合成的技術(shù)支持。
綜上所述，深度合成的應(yīng)用場景廣泛并且可能會改變未來人類社會的生存方式：一方面生成型人工智能模糊了信息真實(shí)和虛假的邊界，深刻地改變了人類獲取信息與知識的方式，另一方面深度合成技術(shù)將成為網(wǎng)絡(luò)虛擬空間與現(xiàn)實(shí)物理世界虛實(shí)結(jié)合、融為一體的關(guān)鍵應(yīng)用技術(shù)，甚至改變?nèi)祟愇磥淼纳a(chǎn)方式和生活方式。
（三） 深度合成的治理挑戰(zhàn)
深度合成的技術(shù)與應(yīng)用，不僅不能化解算法治理一直致力解決的算法黑箱、算法歧視等傳統(tǒng)問題，而且由于其技術(shù)特點(diǎn)，會給人類社會帶來更多的治理挑戰(zhàn)。
第一， 深度合成改變了信息生成方式，模糊了虛實(shí)界限，極大地降低了專業(yè)知識與特定技能的獲取門檻，使既往網(wǎng)絡(luò)安全治理的行政與技術(shù)資源難以為繼，其濫用可能造成的風(fēng)險范圍更廣泛、風(fēng)險級別更高。與任何先進(jìn)的機(jī)器學(xué)習(xí)系統(tǒng)一樣，深度合成技術(shù)會帶來潛在的安全問題。（1）深度合成信息內(nèi)容安全問題相較過去更為嚴(yán)峻。網(wǎng)絡(luò)信息內(nèi)容的生產(chǎn)經(jīng)歷了此前Web1.0、Web2.0時代的PGC（專業(yè)生產(chǎn)內(nèi)容）和UGC（用戶生產(chǎn)內(nèi)容），代表人工智能生成內(nèi)容的AIGC是新一輪內(nèi)容生產(chǎn)方式變革，AIGC內(nèi)容在Web3.0時代也將出現(xiàn)指數(shù)級增長。在此之前，虛假信息生產(chǎn)有限，國家通過源頭管理、賬戶賬號管理、傳播平臺治理即可以控制有害信息傳播。在深度合成技術(shù)應(yīng)用于內(nèi)容生產(chǎn)后，內(nèi)容生產(chǎn)成本進(jìn)一步降低，生產(chǎn)主體難以追蹤，信息內(nèi)容真假難辨，生成類似人類文本的技術(shù)能力提高了冒充和盜竊身份案件的發(fā)生概率。傳統(tǒng)的新聞信息服務(wù)許可、用戶賬號管理和平臺算法過濾、人工審核標(biāo)注等手段，可能都會面臨嚴(yán)重的治理挑戰(zhàn)。（2）深度合成會極大地降低專業(yè)知識與特定技能的獲取門檻，顯著擴(kuò)大網(wǎng)絡(luò)安全風(fēng)險的范圍，提高安全風(fēng)險的等級。例如，代碼的編寫和網(wǎng)絡(luò)攻擊本身具有專業(yè)門檻，網(wǎng)絡(luò)安全攻擊在大眾眼中仍是專業(yè)技術(shù)。ChatGPT類的生成型人工智能具備了無代碼編程能力，降低了攻擊代碼編寫的技術(shù)門檻，可能會導(dǎo)致更多的網(wǎng)絡(luò)安全攻擊發(fā)生。未來，黑客發(fā)動網(wǎng)絡(luò)安全攻擊將如同頑童投擲石子一樣容易，這也意味著重要數(shù)據(jù)、關(guān)鍵信息基礎(chǔ)設(shè)施等可能面臨著網(wǎng)絡(luò)安全防范資源的嚴(yán)重不足的重大挑戰(zhàn)。
第二， 深度合成的發(fā)展對現(xiàn)有數(shù)據(jù)、算法、算力分而治之的治理體系提出了嚴(yán)峻挑戰(zhàn)，網(wǎng)絡(luò)安全、個人信息、數(shù)據(jù)保護(hù)、數(shù)據(jù)跨境流動的制度都需要做出相應(yīng)調(diào)整，而目前各國均缺乏針對人工智能的數(shù)據(jù)、算法、算力的綜合治理體系。（1）數(shù)據(jù)安全方面，深度合成的預(yù)訓(xùn)練大模型促進(jìn)了合成數(shù)據(jù)產(chǎn)業(yè)的發(fā)展，深度合成技術(shù)可以模擬真實(shí)用戶數(shù)據(jù)并規(guī)避高昂的隱私合規(guī)成本。深度合成技術(shù)也有可能通過預(yù)訓(xùn)練大模型的強(qiáng)大推理能力學(xué)習(xí)找到真實(shí)數(shù)據(jù)。而針對合成數(shù)據(jù)的治理各國目前尚無具體的規(guī)制性制度。（2）個人信息保護(hù)方面，深度合成的訓(xùn)練數(shù)據(jù)主要來源于互聯(lián)網(wǎng)，其中可能包括個人隱私數(shù)據(jù)，而此前GPT——2就發(fā)生過隱私泄露的問題。用戶生成合成內(nèi)容需要上傳照片、視頻或與直接明文的對話。生成合成類算法應(yīng)用既往就產(chǎn)生過換臉換聲的欺詐、人格權(quán)侵權(quán)、隱私泄露等案件。在新一代以ChatGPT為代表的生成合成類應(yīng)用中，用戶對話的過程就是被收集信息的過程，尤其是用戶在與機(jī)器對話的過程中更可能袒露隱私。這些個人信息可被用于用戶畫像和訓(xùn)練模型，個人信息的收集、使用和傳輸都面臨著安全挑戰(zhàn)。（3）數(shù)據(jù)跨境安全方面，用戶與生成型人工智能模型的海量交互數(shù)據(jù)如果是跨境產(chǎn)生的，則會引發(fā)數(shù)據(jù)跨境安全問題。生成型人工智能需要海量算力，而面向一國提供生成型人工智能的服務(wù)器可能位于世界各地，這與現(xiàn)有的數(shù)據(jù)本地化存儲、保障本土數(shù)據(jù)安全的數(shù)據(jù)處理方案存在沖突。
第三， 深度合成會強(qiáng)化技術(shù)壟斷和技術(shù)競爭，不僅使得數(shù)據(jù)共享共用愈加難以實(shí)現(xiàn)，而且會加深國家、地區(qū)、人群間的數(shù)字鴻溝。（1）高企的算力與資源需求可能造成技術(shù)壟斷。深度合成的發(fā)展對為其提供基礎(chǔ)計算工具和環(huán)境的數(shù)據(jù)中心算力以及服務(wù)器硬件設(shè)備提出了新的要求。生成型人工智能需要的算力投入過于巨大，以致小型開發(fā)者根本無法承受，這將進(jìn)一步造成技術(shù)的壟斷和算力的集中。（2）數(shù)據(jù)資源的不公平分配使用進(jìn)一步加深數(shù)字鴻溝。預(yù)訓(xùn)練大模型需要海量的數(shù)據(jù)，ChatGPT類的生成型大模型需要幾乎整個互聯(lián)網(wǎng)的數(shù)據(jù)進(jìn)行訓(xùn)練。這一方面意味著大量的數(shù)據(jù)資源被免費(fèi)攫取，如主流媒體的文本數(shù)據(jù)，數(shù)十億張受版權(quán)保護(hù)的圖像被生成型人工智能公司下載用于訓(xùn)練模型；另一方面，數(shù)據(jù)資源的分布并不均衡，如英語語言產(chǎn)生的數(shù)據(jù)遠(yuǎn)多于其他語種產(chǎn)生的數(shù)據(jù)，而這些數(shù)據(jù)無法給預(yù)訓(xùn)練大模型提供機(jī)器學(xué)習(xí)的足夠養(yǎng)料，因而小語種的生成型人工智能輸出質(zhì)量相對較低。（3）生成類人工智能將成為新的流量入口，基礎(chǔ)模型依賴互聯(lián)網(wǎng)上公開的訓(xùn)練數(shù)據(jù)，持續(xù)訓(xùn)練需要不斷與用戶互動輸入數(shù)據(jù)，國家、地區(qū)、語言的既有優(yōu)勢將被持續(xù)強(qiáng)化，地區(qū)間數(shù)字鴻溝將進(jìn)一步加大。
三、深度合成的治理邏輯與更新趨勢
（一） 調(diào)整對象：從算法服務(wù)到人工智能
盡管我國在深度合成的治理方面走在了世界前列，但目前的治理邏輯是將深度合成技術(shù)納入生成合成類算法予以規(guī)制，治理對象聚焦于深度合成服務(wù)。但在深度合成成為人工智能的重要領(lǐng)域，甚至逐漸走向通用人工智能的趨勢下，僅將其以算法信息服務(wù)之一作為調(diào)整對象難以適應(yīng)該領(lǐng)域技術(shù)的應(yīng)用發(fā)展。在當(dāng)前我國的治理邏輯中深度合成主要被定位為算法，聚焦信息安全。在我國制度語境中，深度合成服務(wù)是指利用生成合成類算法提供信息服務(wù)，屬于我國《算法推薦管理規(guī)定》中規(guī)定的生成合成類、排序精選類、檢索過濾類、個性化推送類、調(diào)度決策類算法五類推薦服務(wù)中的一種。通過對近年來我國頒布的法律法規(guī)的脈絡(luò)進(jìn)行梳理可知，深度合成的監(jiān)管對象聚焦的是信息內(nèi)容。如2020年的《網(wǎng)絡(luò)音視頻信息服務(wù)管理規(guī)定》明確提出對基于深度學(xué)習(xí)、虛擬現(xiàn)實(shí)等技術(shù)，具有媒體屬性或社會動員能力的音視頻信息服務(wù)展開安全評估，對非真實(shí)音視頻信息進(jìn)行標(biāo)識；2020年《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》要求不得利用深度學(xué)習(xí)、虛擬現(xiàn)實(shí)等新技術(shù)新應(yīng)用從事法律、行政法規(guī)禁止的活動；2021年開始實(shí)施的《民法典》人格權(quán)編明確規(guī)定，不論是否出于營利目的，均不得利用信息技術(shù)手段偽造他人肖像、聲音；2022年《算法推薦管理規(guī)定》明確要求不得生成合成虛假新聞信息。可見，從算法服務(wù)治理生長出的深度合成治理法律，其主要聚焦于信息安全監(jiān)管。
相比歐美國家，這一治理架構(gòu)雖然已經(jīng)在治理對象、治理鏈條和治理工具上有明顯的制度引領(lǐng)和先發(fā)優(yōu)勢，但實(shí)踐中也難以充分應(yīng)對生成型人工智能的迅猛發(fā)展產(chǎn)生的問題。因為深度合成的技術(shù)迭代已經(jīng)使得其日漸超出了前述立法時所設(shè)計的生成合成類算法框架所能調(diào)控的范圍。一是我國算法治理的調(diào)整對象本身就有一定的局限性。如《算法推薦管理規(guī)定》明確其調(diào)整的“應(yīng)用算法推薦技術(shù)，是指利用生成合成類、個性化推送類、排序精選類、檢索過濾類、調(diào)度決策類等算法技術(shù)向用戶提供信息”。盡管規(guī)定使用了“算法推薦技術(shù)”一詞，但實(shí)際上五種功能分類是從服務(wù)角度進(jìn)行的劃分。而檢索類與個性化推送類算法原理相同，但被歸為不同的服務(wù)分類。可見，“算法推薦”一詞的選用也和牽頭起草部門國家網(wǎng)信辦以信息內(nèi)容管理為主要職能有關(guān)。二是算法監(jiān)管對象局限于提供互聯(lián)網(wǎng)信息服務(wù)的算法，并不包括諸如公共部門使用的決策類算法。目前的相關(guān)規(guī)章在空白領(lǐng)域搭建起了算法制度框架，但主要針對私主體的算法服務(wù)，其他涉及公民權(quán)益的公共部門的算法自動化決策的相關(guān)治理任務(wù)，則是由《個人信息保護(hù)法》等法律法規(guī)承擔(dān)，但規(guī)定較為原則。三是從立法本意上來看，算法監(jiān)管未必能夠涵蓋深度合成治理。我國近兩年的立法中是如何設(shè)定深度合成與算法的關(guān)系的呢？一說認(rèn)為我國出臺《深度合成管理規(guī)定》，是將深度合成作為算法服務(wù)種類中高風(fēng)險、高敏感度的算法進(jìn)行監(jiān)管，因此率先單獨(dú)立法；另一說則認(rèn)為，算法推薦與深度合成是并列關(guān)系。在算法監(jiān)管本身調(diào)整對象就有較大局限的情況下，深度合成作為未來技術(shù)發(fā)展重要領(lǐng)域的人工智能技術(shù)和應(yīng)用，難以被算法規(guī)范有效涵蓋。
在深度合成迅速發(fā)展的背景下，僅以算法服務(wù)為對象、以信息安全為目的顯然無法應(yīng)對深度合成技術(shù)、產(chǎn)業(yè)、應(yīng)用的發(fā)展。與此同時，人工智能本身就被集成在眾多的產(chǎn)品和服務(wù)之中，在法律規(guī)范中使用過于寬泛的人工智能定義必將給人工智能開發(fā)者、部署者、產(chǎn)品生產(chǎn)者（集成者）等設(shè)計自動化功能的產(chǎn)品和服務(wù)帶來巨大的合規(guī)成本，而使用清晰明確的有關(guān)深度合成的定義則有利于增強(qiáng)監(jiān)管的確定性。
（二） 維度拓展：從平臺問責(zé)到產(chǎn)業(yè)治理
我國《深度合成管理規(guī)定》已經(jīng)將治理的觸角向技術(shù)支持者和用戶延伸，但平臺問責(zé)仍然是深度合成治理的主要抓手。《深度合成管理規(guī)定》第2條規(guī)定：“在中華人民共和國境內(nèi)應(yīng)用深度合成技術(shù)提供互聯(lián)網(wǎng)信息服務(wù)（以下簡稱深度合成服務(wù)），以及為深度合成服務(wù)提供技術(shù)支持的活動，適用本規(guī)定。”可見，《深度合成管理規(guī)定》的調(diào)整對象“深度合成”既指深度合成服務(wù)，也指深度合成技術(shù)。在現(xiàn)有的深度合成治理框架中，我國將深度合成服務(wù)提供者作為治理的樞紐。一方面，深度合成服務(wù)提供者應(yīng)盡到自身的安全管理義務(wù)，如進(jìn)行深度合成內(nèi)容標(biāo)識，建立鑒偽與辟謠機(jī)制，完成算法備案等；另一方面，深度合成服務(wù)提供者要履行對上游技術(shù)支持者和下游服務(wù)使用者的管理責(zé)任，提示技術(shù)支持者和使用者承擔(dān)信息安全義務(wù)，對使用者輸入數(shù)據(jù)和合成結(jié)果進(jìn)行審核，并提示使用者應(yīng)對深度合成做顯著標(biāo)識。如規(guī)章要求深度合成服務(wù)提供者和技術(shù)支持者提供人臉、人聲等生物識別信息編輯功能的，應(yīng)當(dāng)提示使用者（用戶）并取得其單獨(dú)同意。
深度合成的治理框架已經(jīng)對上游的技術(shù)支持者提出了相關(guān)要求，雖具有一定創(chuàng)新性，但囿于部門職能，規(guī)定存在一定局限。相對于牽頭起草部門網(wǎng)信部門的信息內(nèi)容監(jiān)管職能，既有規(guī)定對技術(shù)支持者提出要求是新舉措，因為深度合成的技術(shù)支持者如何使用訓(xùn)練數(shù)據(jù)、如何設(shè)計算法機(jī)制機(jī)理、如何開發(fā)應(yīng)用可搭載的模型模板工具，都會直接對深度合成服務(wù)的功能應(yīng)用結(jié)果產(chǎn)生影響。但如果站在數(shù)字社會生產(chǎn)的角度考量深度合成治理，則可發(fā)現(xiàn)，既有治理過于關(guān)注深度合成的內(nèi)容輸出治理而相對忽略了其他角度的治理，因而影響了治理全局的功能。如深度合成中的預(yù)訓(xùn)練大模型以大量的參數(shù)、訓(xùn)練數(shù)據(jù)和計算進(jìn)行操作，目前雖然沒有達(dá)到接近通用人工智能的水平，但仍然比傳統(tǒng)的深度學(xué)習(xí)更具通用性。通用人工智能類似于類腦智慧，其強(qiáng)大的學(xué)習(xí)能力和完備性可以通用于現(xiàn)今人工智能許多關(guān)聯(lián)松散的子領(lǐng)域（如視覺、聽覺、文本等），其主導(dǎo)的人工智能第三次浪潮，可能進(jìn)一步形成人工智能子領(lǐng)域之間共同的基礎(chǔ)或框架。換句話說，深度合成中的預(yù)訓(xùn)練大模型，可能被部署用來解決它們并未被專門訓(xùn)練過的任務(wù)，輸出的多樣性和任務(wù)廣度也會遠(yuǎn)超一般模型。因此，從縱向角度考慮，深度合成的治理應(yīng)當(dāng)在數(shù)字產(chǎn)業(yè)化和產(chǎn)業(yè)數(shù)字化的進(jìn)程中進(jìn)一步深入產(chǎn)業(yè)治理。
（三） 體系構(gòu)建：從多元分級到多維統(tǒng)籌
依據(jù)風(fēng)險進(jìn)行分類分級管理是技術(shù)治理中普遍采用的原則，有助于具體制度根據(jù)不同場景設(shè)置精細(xì)規(guī)則。目前我國的技術(shù)治理體系中，就設(shè)立了數(shù)據(jù)、算法、主體、場景四大類分級分類的標(biāo)準(zhǔn)。但目前深度合成總體應(yīng)如何做分級分類的定位尚不明晰。一是算法分級分類中，尚無明確的具有可操作性的標(biāo)準(zhǔn)；二是我國四大類分級分類標(biāo)準(zhǔn)由不同部門依據(jù)職能主導(dǎo)，職責(zé)互相交叉，邊界不盡清晰；三是深度合成本身具有一定通用性，應(yīng)用范圍廣，難以被簡單歸入某一具體分級分類。
第一， 目前我國存在多種分級分類制度。（1）在數(shù)據(jù)維度，《數(shù)據(jù)安全法》將數(shù)據(jù)分為核心數(shù)據(jù)、重要數(shù)據(jù)、一般數(shù)據(jù)，確立了由國家建立數(shù)據(jù)分類分級制度、由主管部門制定重要數(shù)據(jù)目錄并加強(qiáng)保護(hù)的制度框架，并注重網(wǎng)絡(luò)安全制度與數(shù)據(jù)安全保護(hù)制度的銜接；《民法典》區(qū)分了一般個人信息和私密個人信息；《個人信息保護(hù)法》建立了信息分級制度，將個人信息分為一般信息和敏感信息；在算法維度，《算法推薦管理規(guī)定》第23條提出：“網(wǎng)信部門會同電信、公安、市場監(jiān)管等有關(guān)部門建立算法分級分類安全管理制度，根據(jù)算法推薦服務(wù)的輿論屬性或者社會動員能力、內(nèi)容類別、用戶規(guī)模、算法推薦技術(shù)處理的數(shù)據(jù)重要程度、對用戶行為的干預(yù)程度等對算法推薦服務(wù)提供者實(shí)施分級分類管理”。但目前為止，一般認(rèn)為深度合成可能被用于“無中生有”或篡改信息內(nèi)容因而具有較高的輿論屬性或者社會動員能力，屬于高敏感高風(fēng)險的算法服務(wù)技術(shù)。（2）在主體維度，我國《個人信息保護(hù)法》借鑒歐盟立法，第58條對提供重要互聯(lián)網(wǎng)平臺服務(wù)、用戶數(shù)量巨大、業(yè)務(wù)類型復(fù)雜的“守門人”進(jìn)行了規(guī)范，要求其建立健全個人信息保護(hù)合規(guī)制度體系。在規(guī)范性文件層面，我國市場監(jiān)管總局起草的《互聯(lián)網(wǎng)平臺分類分級指南（征求意見稿）》將平臺分為網(wǎng)絡(luò)銷售、生活服務(wù)等六大類，分級上又分為中小平臺、大型平臺和超大型平臺三級，考慮了用戶規(guī)模、業(yè)務(wù)種類以及限制能力。（3）在場景維度，當(dāng)數(shù)據(jù)、平臺和算法相同的情況下，僅僅由于技術(shù)的可能使用場景的不同，而產(chǎn)生不同級別的風(fēng)險，需要配置不同的監(jiān)管制度。如未成年人使用平臺的相關(guān)功能，相應(yīng)配備的個人信息保護(hù)規(guī)則和算法相關(guān)合規(guī)要求不盡相同；《重要數(shù)據(jù)識別指南》將支撐關(guān)鍵基礎(chǔ)設(shè)施所在行業(yè)的數(shù)據(jù)，反映關(guān)鍵信息基礎(chǔ)設(shè)施網(wǎng)絡(luò)安全保護(hù)情況的數(shù)據(jù)，反映重點(diǎn)目標(biāo)、重點(diǎn)場所物理安全情況的數(shù)據(jù)等視為重要數(shù)據(jù)，重要數(shù)據(jù)一般應(yīng)有更嚴(yán)格的法律保護(hù)制度。除此之外，在一些行業(yè)場景下，數(shù)據(jù)產(chǎn)生與處理的規(guī)則也應(yīng)相應(yīng)區(qū)分。如人工智能醫(yī)療領(lǐng)域、金融業(yè)務(wù)領(lǐng)域都可能涉及諸多敏感個人信息需要圍繞場景進(jìn)行整體性制度設(shè)計；《個人金融信息保護(hù)技術(shù)規(guī)范》《證券期貨業(yè)數(shù)據(jù)分類分級指引》等對金融領(lǐng)域的數(shù)據(jù)分級給出了具體指導(dǎo)。我國各部委也相繼頒布了基于行業(yè)應(yīng)用、業(yè)務(wù)場景的數(shù)據(jù)安全分級分類方法。
第二， 四類分級分類標(biāo)準(zhǔn)，職責(zé)互相交叉，邊界不盡清晰。以算法分級分類為例，一是我國以部門職能作為分類標(biāo)準(zhǔn)，“具有輿論屬性或者社會動員能力”的算法均需履行事前安全評估、備案等程序，算法種類繁多，基本涵蓋了現(xiàn)有的算法服務(wù)；二是《算法推薦管理規(guī)定》中的算法分級分類安全管理制度，結(jié)合數(shù)據(jù)維度（如數(shù)據(jù)重要程度）和主體維度（如用戶規(guī)模）進(jìn)行制度設(shè)計，但不同分級分類標(biāo)準(zhǔn)如何厘清各自職能和邊界，以及各標(biāo)準(zhǔn)之間如何銜接，需要進(jìn)一步出臺規(guī)范予以調(diào)整。
第三， 由于對深度合成的技術(shù)和應(yīng)用尚無法充分認(rèn)識，相關(guān)立法難以在現(xiàn)有分級分類框架中被精準(zhǔn)定位。調(diào)整深度合成的規(guī)范不僅在我國目前初步構(gòu)建的多系統(tǒng)分級分類法律體系中難以找到確切的位置，而且歐盟立法對深度合成技術(shù)的風(fēng)險判斷也并不清晰，目前有學(xué)者提出了將深度合成全部歸為高風(fēng)險系統(tǒng)予以規(guī)范的主張。但這一主張顯然并不利于相關(guān)技術(shù)與產(chǎn)業(yè)的發(fā)展。
因此，深度合成的治理框架需進(jìn)行迭代升級，包括將治理對象從算法服務(wù)擴(kuò)展為人工智能，治理維度從平臺問責(zé)擴(kuò)展至產(chǎn)業(yè)治理，建立由有力牽頭部門統(tǒng)籌協(xié)調(diào)的體系化監(jiān)管體制機(jī)制，并對我國目前多個分級分類制度進(jìn)行系統(tǒng)整合。
四、深度合成治理的體系迭代與未來發(fā)展
我國的深度合成治理應(yīng)在現(xiàn)有算法治理基礎(chǔ)上做出制度延伸，將其作為人工智能專門領(lǐng)域予以治理，形成“算法治理—深度合成治理—人工智能治理”的迭代路徑，為我國未來通用人工智能立法做準(zhǔn)備。面對深度合成中的生成型人工智能等具有一定通用性質(zhì)的新型人工智能技術(shù)，應(yīng)及時調(diào)整治理方案，搶抓規(guī)則制定權(quán)，防范國際規(guī)則博弈中歐盟等有意識的制度輸出，推動我國在該領(lǐng)域的本土化制度建設(shè)和制度引領(lǐng)。
（一） 深度合成治理的體系迭代
深度合成治理應(yīng)在現(xiàn)有算法治理的基礎(chǔ)上做出制度延伸與體系迭代。ChatGPT等生成型人工智能的爆發(fā)，是推動深度合成成為人工智能治理專門領(lǐng)域的有利契機(jī)。將深度合成納入專門化的人工智能治理領(lǐng)域予以治理，既可以為我國人工智能基礎(chǔ)性立法做出有益探索，又可避免歐盟、美國現(xiàn)有立法中人工智能范圍定義過寬的弊端，發(fā)揮我國人工智能立法的制度引領(lǐng)作用。
第一， 深度合成治理需要在算法治理基礎(chǔ)上做出延伸和迭代。盡管我國深度合成的治理已經(jīng)在算法治理基礎(chǔ)上進(jìn)行了創(chuàng)新，但治理體系仍需進(jìn)一步優(yōu)化。我國的算法治理體系將算法定位為“互聯(lián)網(wǎng)信息服務(wù)算法”和“算法推薦服務(wù)”，盡管在算法監(jiān)管制度中已經(jīng)創(chuàng)新性地提出了針對特征庫、用戶標(biāo)簽、算法機(jī)制機(jī)理等技術(shù)規(guī)范措施，但其重點(diǎn)聚焦于算法安全價值導(dǎo)向下的信息服務(wù)規(guī)范和用戶權(quán)益保護(hù)。《深度合成管理規(guī)定》在征求意見的討論后將服務(wù)和技術(shù)列為并重的調(diào)整對象，將“數(shù)據(jù)和技術(shù)管理規(guī)范”專章單列，并將監(jiān)管對象延伸至深度合成技術(shù)支持者，都是對技術(shù)發(fā)展的因應(yīng)性制度調(diào)整。我國深度合成治理超越了算法治理制度，相較歐盟、美國等制度更具有引領(lǐng)性。國外研究也認(rèn)為《深度合成管理規(guī)定》調(diào)整的范圍全面，將大大改變14億人的人工智能生成內(nèi)容的制作方式；在具體制度的評價中，研究者也認(rèn)同我國現(xiàn)有監(jiān)管為深度合成的每個階段制定了規(guī)則，從創(chuàng)作到標(biāo)注再到傳播，為未來控制有機(jī)生成內(nèi)容也留下了空間，在2023年可能影響到其他國家深度合成法規(guī)的發(fā)展。但是，算法監(jiān)管的一些具體措施顯然很難適用于深度合成項下的生成型人工智能等技術(shù)。如算法機(jī)制機(jī)理的備案說明、特征庫和標(biāo)簽制度等，應(yīng)結(jié)合深度合成的新技術(shù)發(fā)展與應(yīng)用場景做出相應(yīng)調(diào)整和改進(jìn)。
第二， 深度合成治理應(yīng)成為人工智能治理的專門領(lǐng)域，并在此基礎(chǔ)上推進(jìn)我國人工智能基礎(chǔ)性立法。我國現(xiàn)有的算法規(guī)制體系在實(shí)踐中承擔(dān)起了人工智能治理的任務(wù)。從2017年國務(wù)院《新一代人工智能發(fā)展規(guī)劃》到2022年的《最高人民法院關(guān)于規(guī)范和加強(qiáng)人工智能司法應(yīng)用的意見》，我國人工智能治理各級文件中均提出了“安全可控”的治理目標(biāo)，具體制度均提到了建立公開透明的制度體系、建立相應(yīng)問責(zé)機(jī)制、技術(shù)和應(yīng)用全流程監(jiān)管等。而這些具體制度的落地則是由算法透明度，算法問責(zé)，算法設(shè)計、輸出與結(jié)果監(jiān)管，以及算法推薦服務(wù)結(jié)果公平等規(guī)定保障實(shí)現(xiàn)的。國外的研究一般也認(rèn)為中國針對算法設(shè)計的系統(tǒng)法規(guī)，包括對算法系統(tǒng)的設(shè)計、使用和數(shù)據(jù)種類的要求和標(biāo)準(zhǔn)，是中國人工智能的治理制度。
應(yīng)以ChatGPT為代表的生成型人工智能發(fā)展為契機(jī)，推動深度合成治理成為人工智能治理的專門領(lǐng)域。（1）保障急用先行一向是我國立法的一條重要經(jīng)驗。短期內(nèi)，繼續(xù)采用垂直和領(lǐng)域性人工智能監(jiān)管能夠有效將可能的風(fēng)險控制在最小范圍，延伸深度合成現(xiàn)有制度是治理效率最高的方式。不過從長遠(yuǎn)來看，加強(qiáng)深度合成治理專門立法是必然趨勢。在擬出臺全盤人工智能治理方案的歐洲，也在討論對人工智能立法的部分定義和監(jiān)管類型進(jìn)行修訂，以增強(qiáng)對“大型生成式AI模型”部署者和用戶進(jìn)行直接監(jiān)管。（2）深度合成的治理等待全盤人工智能治理的立法出臺，會面臨針對性、可用性不強(qiáng)的制度困境。生成型人工智能具有一定通用性，是否延續(xù)傳統(tǒng)對人工智能的分級分類方式進(jìn)行治理？目前歐盟就面臨著這個問題。2022年5月《人工智能法案》第4a——4c的修正案成了監(jiān)管生成型人工智能的核心條款。任何可用于任何高風(fēng)險應(yīng)用的“通用人工智能系統(tǒng)”，如就業(yè)、醫(yī)療、信用評分、行政、執(zhí)法都必須初步遵守《人工智能法》對高風(fēng)險系統(tǒng)規(guī)定的全部義務(wù)。一個全盤的人工智能治理方案極可能受到技術(shù)發(fā)展的沖擊。因此也有歐洲學(xué)者建議歐盟應(yīng)將其所設(shè)想的全盤人工智能法案監(jiān)管轉(zhuǎn)向具體的監(jiān)管職責(zé)和內(nèi)容治理。（3）在對深度合成治理做出專門性制度探索的基礎(chǔ)上，推進(jìn)人工智能基礎(chǔ)性立法，解決人工智能領(lǐng)域的通用問題。一是算法、算力與數(shù)據(jù)的規(guī)制制度必須在人工智能治理的框架下統(tǒng)籌協(xié)調(diào)。如歐盟立法面臨著《人工智能法》《通用數(shù)據(jù)保護(hù)條例》《數(shù)字服務(wù)法》等法規(guī)協(xié)調(diào)的問題。預(yù)訓(xùn)練大模型需要海量的算力，如何統(tǒng)籌全國范圍內(nèi)的算力使用，也是法律層面立法才能解決的問題。二是法律層面上統(tǒng)籌，方可保證較高的效力位階將我國現(xiàn)行的有關(guān)數(shù)據(jù)、算法和人工智能問題的探索，統(tǒng)一納入未來人工智能基礎(chǔ)性立法。
2023年被認(rèn)為是全世界的人工智能監(jiān)管新格局的開創(chuàng)之年。雖然不同的法律轄區(qū)正在采取不同的監(jiān)管路徑，但歐盟《人工智能法案》的加快推進(jìn)，意味著全盤管理人工智能未來將可能成為全球立法模式。按照“算法治理—深度合成治理—人工智能基礎(chǔ)性立法”的思路，深度合成治理立法一方面承接算法治理，另一方面也可以為未來通用人工智能的立法做出有益嘗試。
（二） 內(nèi)容監(jiān)管與全鏈條治理
深度合成的治理，一是需要保障生成內(nèi)容安全的基礎(chǔ)法益，二是應(yīng)依據(jù)生成型人工智能改進(jìn)監(jiān)管框架實(shí)施全鏈條治理，三是需要適應(yīng)技術(shù)的進(jìn)一步發(fā)展，完成深度合成監(jiān)管工具的升級。
第一， 深度合成的生成內(nèi)容監(jiān)管。深度合成的前期治理聚焦生成合成的虛假信息是全球共識，歐盟、美國均有相關(guān)立法嘗試與監(jiān)管舉措。我國的深度合成治理中有關(guān)信息內(nèi)容安全的監(jiān)管措施應(yīng)嚴(yán)格執(zhí)行，繼續(xù)要求AIGC技術(shù)與服務(wù)提供者在相關(guān)的人工智能自動生成內(nèi)容中履行添加可識別水印或有效警示信息的義務(wù)，在源頭上實(shí)現(xiàn)人工智能自動生成內(nèi)容的可識別性。不過，AIGC（人工智能生成內(nèi)容）的標(biāo)識要求需要進(jìn)一步提高。如對ChatGPT或類似軟件生成“以某人風(fēng)格”生成文本或圖像視頻等內(nèi)容時，應(yīng)當(dāng)在生成內(nèi)容的合理位置做出顯著標(biāo)識，以避免公眾產(chǎn)生混淆或誤認(rèn)。生成內(nèi)容型的人工智能必然會發(fā)生內(nèi)容安全問題，盡管目前ChatGPT對基于惡意目的的使用提出了一些限制，但是有技巧的使用者仍然可以采取調(diào)整措施的請求來繞開這些限制。因此AIGC（人工智能生成內(nèi)容）不僅仍需配備人工過濾審核機(jī)制，而且需要在下游督促網(wǎng)絡(luò)平臺采取措施減少違法信息的產(chǎn)出。深度合成監(jiān)管中的辟謠機(jī)制和舉報機(jī)制同樣適用于ChatGPT等生成型人工智能。對于已經(jīng)或者準(zhǔn)備在網(wǎng)絡(luò)中傳播不實(shí)信息和可能危害公共秩序的內(nèi)容，平臺有義務(wù)停止傳輸，并且對于頻繁發(fā)布此類信息的用戶主體通過黑名單或其他機(jī)制加以限制和處罰。尤其是在AIGC（人工智能生成內(nèi)容）與機(jī)器人賬號結(jié)合可能帶來更大信息內(nèi)容安全風(fēng)險時，應(yīng)在我國現(xiàn)有賬號管理機(jī)制中強(qiáng)化對機(jī)器人賬號的身份識別監(jiān)管和對權(quán)威賬號的特殊認(rèn)定，減少機(jī)器人批量推送AIGC（人工智能生成內(nèi)容）。中國已經(jīng)在內(nèi)容監(jiān)管領(lǐng)域積累了較多經(jīng)驗并取得先機(jī)，監(jiān)管人工智能生成內(nèi)容也成為制定全球規(guī)范和標(biāo)準(zhǔn)的一種重要方式。
第二，深度合成的法律擔(dān)責(zé)鏈條。深度合成中生成型人工智能技術(shù)鏈條的參與者包括：開發(fā)者建模并預(yù)訓(xùn)練大模型；部署者根據(jù)應(yīng)用需求，或單獨(dú)或與開發(fā)者合作進(jìn)行參數(shù)微調(diào)；用戶最終與生成型人工智能互動，并決定生成型人工智能的具體用途。在生成型人工智能的技術(shù)產(chǎn)出鏈條上，技術(shù)開發(fā)者是關(guān)鍵，因而深度合成合規(guī)責(zé)任在技術(shù)鏈上進(jìn)行可行性的責(zé)任分配顯得尤為重要。鑒此，我國的深度合成監(jiān)管應(yīng)圍繞服務(wù)提供者設(shè)計制度：一是在生成型人工智能的治理中，應(yīng)對技術(shù)開發(fā)者提出更嚴(yán)格的要求，如訓(xùn)練數(shù)據(jù)的標(biāo)注、文件記錄和保存、保障技術(shù)透明度等。面對Open AI、Stability這樣的大型技術(shù)開發(fā)者，在開發(fā)階段僅有倫理要求是無法滿足監(jiān)管目標(biāo)的。可以考慮通過對技術(shù)的獲利者征收庇古稅平衡技術(shù)獲利與風(fēng)險行為。監(jiān)管者對深度合成的審計，可通過定期隨機(jī)抽取方式進(jìn)行，并依據(jù)審計結(jié)果對深度合成技術(shù)的獲利者征稅。二是對生成型人工智能的部署者應(yīng)結(jié)合其應(yīng)用場景設(shè)置義務(wù)，該義務(wù)的結(jié)構(gòu)安排制度必須使部署者和使用者能夠有合理預(yù)期，包括必要的技術(shù)調(diào)整和合規(guī)成本。否則，過于強(qiáng)調(diào)絕對的信息內(nèi)容安全，會阻礙深度合成產(chǎn)業(yè)的發(fā)展。三是在用戶層面進(jìn)一步細(xì)化管理。對于使用AIGC（人工智能生成內(nèi)容）為他人提供服務(wù)的專業(yè)用戶，如使用ChatGPT撰寫法律文書，用AI繪畫提供設(shè)計裝飾服務(wù)，使用生成型人工智能編碼或提供教育服務(wù)等經(jīng)營活動，應(yīng)承擔(dān)人工智能生成內(nèi)容的標(biāo)識義務(wù)。對于普通的深度合成用戶，應(yīng)進(jìn)一步通過技術(shù)手段等強(qiáng)化其義務(wù)。如我國現(xiàn)有的深度合成監(jiān)管中，要求上傳照片生成換臉視頻的用戶必須取得當(dāng)事人的同意，但實(shí)踐中尚缺少有效的落地機(jī)制和制約手段。在用戶與生成型人工智能明文互動的情況下，如何通過技術(shù)加強(qiáng)對用戶行為的合法性約束，是下一步技術(shù)開發(fā)和制度設(shè)計應(yīng)認(rèn)真對待的問題。
第三， 深度合成的監(jiān)管工具升級。（1）算法歧視的傳統(tǒng)監(jiān)管工具，在面對生成型人工智能時會遇到挑戰(zhàn)。既往人工智能公平性治理中采取的通用性應(yīng)對措施，如過濾器和模型調(diào)整，定量偏差評估和基準(zhǔn)測試等，在ChatGPT這類預(yù)訓(xùn)練模型系統(tǒng)治理中會遇到挑戰(zhàn)。不過技術(shù)界仍在不斷嘗試，如斯坦福大學(xué)以人為本人工智能研究院基礎(chǔ)模型研究中心推出大型語言模型（LLM）的整體評估，評估包括準(zhǔn)確性、校準(zhǔn)、魯棒性、公平性、偏差、毒性和效率等模型完備的各個關(guān)鍵要素，旨在提高語言模型透明度，幫助公眾理解大型語言模型。（2）深度合成的數(shù)據(jù)和隱私安全同樣需要新的技術(shù)支撐和保障。在深度合成營造的數(shù)字虛擬生存場景中，用戶需要頭盔和手持器等VR設(shè)備實(shí)現(xiàn)沉浸式互動。VR中數(shù)據(jù)收集的范圍和規(guī)模超出了目前網(wǎng)絡(luò)平臺的能力，攻擊者可通過幾分鐘的數(shù)據(jù)流輕松識別VR用戶，或通過在虛擬環(huán)境中植入制品誘導(dǎo)用戶透漏個人信息。這都需要網(wǎng)絡(luò)安全技術(shù)、監(jiān)管技術(shù)的全面升級以更好地加強(qiáng)監(jiān)管。
（三） 分級分類標(biāo)準(zhǔn)的有機(jī)體系化
深度合成對多元的分級分類標(biāo)準(zhǔn)提出了巨大挑戰(zhàn)。一是深度合成應(yīng)用覆蓋范圍廣泛，既包括信息內(nèi)容安全，也包括數(shù)字人、數(shù)字虛擬場景、數(shù)字孿生等應(yīng)用模式，繼續(xù)適用“具有輿論屬性或者社會動員能力”的算法分類標(biāo)準(zhǔn)，已難以適應(yīng)生成合成類算法的分級治理。二是深度合成中的生成型人工智能具有一定通用性。按照全盤人工智能的治理模式，如歐盟《人工智能法案》，要求識別和分析所有最可能對健康、安全和基本權(quán)利產(chǎn)生的已知和可預(yù)見的風(fēng)險，按此模式進(jìn)行監(jiān)管，則一旦生成型人工智能被用于一個高風(fēng)險用途，整個預(yù)訓(xùn)練大模型都會落入高風(fēng)險的規(guī)制范圍，需要進(jìn)行性能、穩(wěn)健性和網(wǎng)絡(luò)安全測試。而生成型人工智能需要巨額投資，高企的合規(guī)成本顯然不利于企業(yè)投資和研發(fā)。三是深度合成的生成型人工智能需要海量數(shù)據(jù)進(jìn)行訓(xùn)練，而數(shù)據(jù)的匯聚和量級本身就被認(rèn)定為具有較高風(fēng)險。如達(dá)到一定量級的個人信息處理如果發(fā)生重大網(wǎng)絡(luò)安全事件，在我國法律體系中被列為與重要數(shù)據(jù)安全事件同等級別的事件，《關(guān)鍵信息基礎(chǔ)設(shè)施條例》明確將二者并列。與此類似，《網(wǎng)絡(luò)安全審查辦法》也將重要數(shù)據(jù)、關(guān)鍵信息基礎(chǔ)設(shè)施與大量個人信息的風(fēng)險并列。由此可見，深度合成監(jiān)管的分級分類標(biāo)準(zhǔn)設(shè)計，既需要統(tǒng)籌技術(shù)、產(chǎn)業(yè)和應(yīng)用的不同分層，也需要消解數(shù)據(jù)分級分類中的量級考量因素，有機(jī)協(xié)調(diào)做出針對性制度安排。從產(chǎn)業(yè)鏈角度看，技術(shù)底層的大模型與數(shù)據(jù)集成為真正意義上的“信息基礎(chǔ)設(shè)施”。AIGC（人工智能生成內(nèi)容）產(chǎn)業(yè)需要生成型人工智能支持，提供垂直化、場景化的工具和模型——作為幕后產(chǎn)業(yè)鏈的上游，需要后端基建如渲染公司、底層架構(gòu)如引擎公司等支撐；應(yīng)用層面的內(nèi)容生成應(yīng)用屬于產(chǎn)業(yè)鏈下游，需要面向各行業(yè)的內(nèi)容與場景等技術(shù)支撐。在數(shù)據(jù)、算法、主體等分級分類方法難以適用于生成型人工智能的背景下，應(yīng)在產(chǎn)業(yè)鏈條層面首先縱向劃分深度合成的技術(shù)、產(chǎn)業(yè)和應(yīng)用層，再對技術(shù)研發(fā)、產(chǎn)業(yè)落地和技術(shù)應(yīng)用分級分類設(shè)計管理制度。
第一， 不宜將深度合成尤其是生成型人工智能一概納入高風(fēng)險治理框架，而應(yīng)根據(jù)生成型人工智能的預(yù)訓(xùn)練大模型、海量數(shù)據(jù)等特征單獨(dú)設(shè)計監(jiān)管制度。在深度合成領(lǐng)域，應(yīng)回避歐盟有意識的法律輸出，堅持符合中國本土的治理路徑。歐盟《人工智能法》《數(shù)字市場法》《數(shù)字服務(wù)法》三部協(xié)同立法影響巨大，其目的是為了確保公司不會濫用人工智能并承擔(dān)相應(yīng)責(zé)任，避免可能的傷害；但每項立法都要求對符合特定標(biāo)準(zhǔn)的公司進(jìn)行獨(dú)立審計、安全評估或者第三方審計，給產(chǎn)業(yè)發(fā)展造成了沉重負(fù)擔(dān)，可謂“數(shù)字經(jīng)濟(jì)的幼兒，數(shù)據(jù)監(jiān)管的巨匠”。我國在信息內(nèi)容安全領(lǐng)域已經(jīng)具備相較于其他國家更多的實(shí)踐經(jīng)驗，堅持分層治理，尤其是加強(qiáng)生成內(nèi)容的專門化治理，可避免合規(guī)成本過高阻礙深度合成產(chǎn)業(yè)的發(fā)展。
第二， 區(qū)分技術(shù)、產(chǎn)業(yè)和應(yīng)用層面分級分類設(shè)計制度，在技術(shù)與產(chǎn)業(yè)層面加大扶持力度，在應(yīng)用層面參考現(xiàn)有分級分類標(biāo)準(zhǔn)完善監(jiān)管制度。鑒于深度合成發(fā)展需要大量資源、開展技術(shù)競賽，集中力量發(fā)展技術(shù)、產(chǎn)業(yè)將成為我國的必然選擇，因此需針對某些特定企業(yè)和信息基礎(chǔ)設(shè)施加強(qiáng)人工智能倫理監(jiān)管、網(wǎng)絡(luò)安全和數(shù)據(jù)安全保障。如我國《新型數(shù)據(jù)中心發(fā)展三年行動計劃（2021——2023年）》提出新型數(shù)據(jù)中心應(yīng)具備高技術(shù)、高算力、高能效、高安全等特征。在深度合成應(yīng)用層面，可參考現(xiàn)有的分級分類標(biāo)準(zhǔn)，依據(jù)其輿論屬性或者社會動員能力、內(nèi)容類別、用戶規(guī)模、對用戶行為的干預(yù)程度等實(shí)施分級分類管理。因為在現(xiàn)階段通過一部法律來協(xié)調(diào)對所有人工智能系統(tǒng)的監(jiān)管，顯然很難保證立法的高度適用性。
第三， 應(yīng)建立敏捷治理體系，并留足前瞻性制度發(fā)展空間，以保障技術(shù)的長遠(yuǎn)發(fā)展。對于一個調(diào)整范圍廣泛、潛在的變革性立法框架來說，過于寬泛和固定的人工智能立法并不適當(dāng)。人工智能專家和非專業(yè)公民之間的認(rèn)識不對稱可能促使風(fēng)險監(jiān)管嚴(yán)重依賴專家的判斷。深度合成的發(fā)展正在迅速催生多個產(chǎn)業(yè)和價值生產(chǎn)模式，合成數(shù)據(jù)、數(shù)字孿生、數(shù)字人、元宇宙等未來的制度發(fā)展都需要治理的敏捷應(yīng)對。正如專家調(diào)查了歐盟現(xiàn)有的治理方案之后得出的結(jié)論：“人工智能將重新需要一個靈活和反應(yīng)迅速的治理框架，以最大限度地提高其重新應(yīng)對不斷變化的風(fēng)險和問題的能力。”
五、結(jié)語
深度合成已經(jīng)成為世界人工智能領(lǐng)域競爭的新賽道，以ChatGPT、元宇宙為代表的一批風(fēng)靡全球的應(yīng)用技術(shù)為人類譜寫數(shù)字化生存的新篇章提供了無限可能。掌握人工智能治理的話語權(quán)、規(guī)則制定權(quán)，搶先形成新的國家競爭優(yōu)勢，已經(jīng)成為世界不同法域的努力目標(biāo)。我國在個人信息保護(hù)和數(shù)據(jù)立法領(lǐng)域，可以說與歐盟、美國并行，在算法治理和深度合成治理領(lǐng)域則成為一定意義上的領(lǐng)跑者。然而，領(lǐng)跑不代表嚴(yán)苛，過強(qiáng)的監(jiān)管并不一定形成制度競爭優(yōu)勢；符合我國本土經(jīng)濟(jì)、社會、政治、價值觀，能夠促進(jìn)我國深度合成產(chǎn)業(yè)長遠(yuǎn)健康合法發(fā)展的治理制度，才是我國真正的制度競爭優(yōu)勢。歐盟正在不遺余力地努力成為人工智能治理的全球領(lǐng)導(dǎo)者，加強(qiáng)繼續(xù)引領(lǐng)圍繞人工智能監(jiān)管的全球標(biāo)準(zhǔn)的討論。在這一背景下，既保障急用先行，避免新興技術(shù)帶來的問題，又不急于推行過于嚴(yán)格的人工智能方案以提高制度的可用性，是我國深度合成人工智能立法的努力方向。一方面在算法監(jiān)管的經(jīng)驗與框架中，繼續(xù)推進(jìn)深度合成的治理；另一方面在深度合成治理的探索中，逐步形成通用人工智能立法的經(jīng)驗，為未來統(tǒng)籌算法、算力、數(shù)據(jù)的人工智能治理作出更多有益嘗試，是目前深度合成治理路徑的最佳選擇。深度合成的治理，生長于算法治理，既需借助算法治理的既有制度資源與框架，又需要創(chuàng)新性地發(fā)展其作為人工智能專門領(lǐng)域的監(jiān)管工具、分類分級制度、責(zé)任鏈條分配體系。我國深度合成的治理應(yīng)適應(yīng)中國本土亟需發(fā)展生成型人工智能產(chǎn)業(yè)的需求，同時發(fā)揮中國既有的信息內(nèi)容治理優(yōu)勢，以形成在全球更具影響力的深度合成治理法律制度體系。
【作者簡介】
張凌寒，中國政法大學(xué)數(shù)據(jù)法治研究院教授。