隨著人工智能技術的快速發(fā)展，數字產業(yè)化進程不斷加快，產業(yè)數字化、智能化水平進一步提升。多媒體深度合成技術是人工智能技術的重要研究和典型應用領域，涉及深度學習、虛擬現(xiàn)實、預訓練大模型等生成合成類算法，國內外著名高校、科研機構、互聯(lián)網公司和人工智能企業(yè)紛紛展開相關技術研究。隨著其與互聯(lián)網信息服務的深度融合，在變革互聯(lián)網信息制作模式、智能生產新聞媒體內容、改善人機交互體驗、繁榮數字經濟等方面產生巨大影響。同時我們應該清醒地認識到，利用該技術進行違法和不良信息的制作、復制、發(fā)布、傳播等行為，對維護網絡安全、社會經濟穩(wěn)定、公共利益帶來巨大挑戰(zhàn)。習近平總書記在黨的二十大報告中強調，“健全網絡綜合治理體系，推動形成良好網絡生態(tài)”。2022年11月25日，國家互聯(lián)網信息辦公室、工業(yè)和信息化部、公安部聯(lián)合發(fā)布《互聯(lián)網信息服務深度合成管理規(guī)定》（以下簡稱《規(guī)定》），《規(guī)定》深入貫徹《網絡安全法》《數據安全法》《個人信息保護法》《互聯(lián)網信息服務管理辦法》等法律、行政法規(guī)，聚焦突出問題，有效規(guī)范深度合成服務，加強網絡內容建設，強化對人工智能技術、服務、內容、平臺的綜合治理能力。

一、堅持維護國家利益和站穩(wěn)人民立場，強化算法治理能力

《規(guī)定》落實總體國家安全觀，堅持以人民為中心，對利用深度合成技術危害國家安全和利益、損害國家形象、侵害公民合法權益和隱私的行為，作出全面、具體的回應，對現(xiàn)行算法應用安全監(jiān)管規(guī)則進一步細化，為營造風清氣正的網絡空間提供制度保障和治理依據。

（一）有效銜接現(xiàn)行法規(guī)制度，健全我國算法綜合治理體系。在《網絡安全法》《數據安全法》《個人信息保護法》《互聯(lián)網信息服務管理辦法》等法律法規(guī)框架下，深刻把握深度合成服務存在的安全風險，與《網絡信息內容生態(tài)治理規(guī)定》《互聯(lián)網信息服務算法推薦管理規(guī)定》《網絡音視頻信息服務管理規(guī)定》等相關規(guī)定制度緊密銜接，理清深度合成技術定義與應用場景，明確服務提供者的信息安全主體責任，延伸互聯(lián)網信息服務算法治理思路，給出生成合成類算法服務安全管理樣板，完善了我國互聯(lián)網信息服務算法綜合治理體系。

（二）構建多方共同治理格局，創(chuàng)新人工智能倫理監(jiān)管的中國方案。《規(guī)定》統(tǒng)籌各方力量，構建政府監(jiān)管、企業(yè)履責、行業(yè)自律、社會監(jiān)督的多元共治體系，將網絡信息內容生態(tài)治理和深度合成服務管理有機結合，通過貫穿深度合成服務事前事中事后的監(jiān)管模式，針對不同的深度合成活動給出規(guī)范要求，進一步明確深度合成服務提供者、技術支持者和使用者以及應用程序分發(fā)平臺責任，鼓勵推動行業(yè)自律和出臺標準規(guī)范，要求社會監(jiān)督和申訴渠道暢通，及時處理公眾訴求，對深度合成服務管理提出了兼具針對性、指導性、規(guī)范性的中國方案。

（三）聚焦違法和不良信息治理，引導深度合成服務向上向善。針對利用深度合成服務制作、復制、發(fā)布、傳播違法信息等行為，《規(guī)定》劃定“紅線”，規(guī)定不得利用深度合成服務開展法律法規(guī)禁止的活動，要求深度合成服務提供者制定和公開管理規(guī)則、平臺公約，完善服務協(xié)議，依法依約履行信息安全管理責任。發(fā)現(xiàn)違法和不良信息的，依法采取處置措施，保存有關記錄，及時向有關主管部門報告。

（四）促進智能技術健康有序發(fā)展，引領相關信息產業(yè)落地應用。《規(guī)定》的發(fā)布進一步提升了我國網絡空間信息安全治理能力，引導以深度學習為主的新興智能技術健康發(fā)展，有效促進圍繞音頻、視頻、圖像和文本的多模態(tài)人工智能算法在應用管理方面的積極探索。隨著深度合成技術應用的普及和發(fā)展，深度合成檢測技術也將順勢而來，通過深度合成與檢測的技術演練與應用對抗，能促進構建良性迭代的深度合成信息服務生態(tài)，共同推動新興人工智能技術應用落地。

二、界定各方責任要求，構建深度合成服務治理體系

《規(guī)定》明確各方在深度合成活動全流程的主體責任，在《互聯(lián)網信息服務算法推薦管理規(guī)定》已有規(guī)定基礎上，明確指導性極強的生成合成標識方法，要求完善管理制度和技術保障措施。

（一）明確義務要求，強化主體責任。《規(guī)定》分析梳理了深度合成活動邊界，明確了深度合成技術定義，對深度合成服務提供者、技術支持者和使用者以及應用程序分發(fā)平臺等主體應履行的責任義務作出規(guī)定，如深度合成服務提供者應履行建立健全管理制度、對使用者真實身份信息認證、加強深度合成信息內容管理等義務，服務提供者和技術支持者應履行加強訓練數據管理、加強深度合成技術管理等義務。同時，《規(guī)定》對具有輿論屬性或者社會動員能力的深度合成服務提供者提出了更嚴格的監(jiān)管要求。

（二）監(jiān)管針對性強，涵蓋技術管理要求。《規(guī)定》針對利用生成合成類算法制作文本、圖像、音頻、視頻、虛擬場景等網絡信息，明確了算法備案、安全評估、顯著標識等強制性要求及適用情形，如規(guī)定深度合成服務提供者和技術支持者若生成或編輯生物識別信息，必須進行算法安全評估。此外，《規(guī)定》針對各類生成合成技術應用，還提出要加強制度建設、技術保障措施安全可控、制定和公開管理規(guī)則、完善服務協(xié)議、建立健全辟謠機制等要求。

（三）細化標識規(guī)則，明確具體規(guī)范要求。《規(guī)定》對《互聯(lián)網信息服務算法推薦管理規(guī)定》關于生成合成類算法標識相關要求作出細化，明確采取技術措施添加不影響用戶使用的標識，如可能導致混淆或者誤認的，還應當在合理位置、區(qū)域進行顯著標識等要求，規(guī)定任何組織和個人不得采用技術手段刪除、篡改、隱匿深度合成標識。

三、強化支撐體系建設，推動深度合成治理走深向實

隨著數字化、智能化進程的加快，互聯(lián)網信息服務綜合治理不斷細化、深入，規(guī)范深度合成活動對營造健康安全的網絡空間和加強社會治理有著重要意義。為推動《規(guī)定》落實，下一步建議加強如下工作：

一是強化智能監(jiān)管平臺支撐。加大科技攻關力度，深入研究深度合成類算法內生安全機理和深度合成鑒別等關鍵技術，推動深度合成管理技術能力建設。加強人機混合的智能監(jiān)管技術，研究深度合成服務提供者的安全可控技術保障方案，把監(jiān)管規(guī)范轉化為評估標準，建設面向網絡全域監(jiān)管的監(jiān)測管理平臺。研發(fā)深度合成與鑒別對抗機制，鼓勵新興科技企業(yè)與研究機構開展技術演練，共同推動深度合成服務健康發(fā)展。緊密結合國際前沿，建設自主可控的深度合成算法安全應用體系與技術生態(tài)。

二是強化人工智能安全評估支撐。抓緊建立深度合成安全評估機制，組織研究制定深度合成安全評估相關標準規(guī)范，基于《規(guī)定》要求和深度合成類算法機制機理特點，對評估流程、方法、內容等制定規(guī)定，明確提供具有對人臉、人聲等生物識別信息或者可能涉及國家安全、國家形象、國家利益和社會公共利益的特殊物體、場景等非生物識別信息編輯功能的模型、模板等工具的，應當進行安全評估。組建專業(yè)隊伍對相關深度合成服務提供者和技術支持者評估情況進行檢查，以評促建，完善行業(yè)標準，加強行業(yè)自律，加快推進深度合成服務規(guī)范化。

三是加強科普宣貫工作支撐。配合國家人工智能算法綜合治理工作部署，面向互聯(lián)網企業(yè)、重點行業(yè)企業(yè)和相關管理部門等進行《規(guī)定》的宣貫培訓，督促企業(yè)提升深度合成技術服務水平；推進多模態(tài)人工智能相關學科研究全面開展，培育高層次人才，鼓勵相關科研機構、高校與企業(yè)建立廣泛合作機制；加強科普教育，提升音視圖文多媒體深度合成技術透明度，引導社會各界積極參與社會監(jiān)督，共同推進深度合成服務綜合治理，強化多方治理成效。（作者：徐波，中國科學院自動化研究所所長）

（部分文字、圖片來自網絡，如涉及侵權，請及時與我們聯(lián)系，我們會在第一時間刪除或處理侵權內容。電話：4006770986郵箱：zhangming@eefung.com負責人：張明）