【資料圖】
為防范化解安全風險，同時促進深度合成服務(wù)健康發(fā)展、提升監(jiān)管能力水平的需要，相關(guān)部門加強深度合成技術(shù)管理。12月11日晚間，國家網(wǎng)信辦通過官方微信公眾號宣布，網(wǎng)信辦、工信部、公安部已聯(lián)合發(fā)布《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》(以下簡稱《規(guī)定》)，自2023年1月10日起施行?！兑?guī)定》明確，提供智能對話、合成人聲、人臉生成、沉浸式擬真場景等生成或者顯著改變信息內(nèi)容功能服務(wù)的，應(yīng)當進行顯著標識。深度合成服務(wù)治理需要政府、企業(yè)、社會、網(wǎng)民等多方主體共同參與，推動深度合成技術(shù)的依法、合理、有效使用，積極防范化解深度合成技術(shù)帶來的風險，促進互聯(lián)網(wǎng)信息服務(wù)健康發(fā)展，維護網(wǎng)絡(luò)空間良好生態(tài)。
“《規(guī)定》已經(jīng)2022年11月3日網(wǎng)信辦2022年第21次室務(wù)會議審議通過，并經(jīng)工信部、公安部同意，現(xiàn)予公布，自2023年1月10日起施行”，12月11日晚間，網(wǎng)信辦宣布。根據(jù)《規(guī)定》，深度合成技術(shù)，是指利用深度學習、虛擬現(xiàn)實等生成合成類算法制作文本、圖像、音頻、視頻、虛擬場景等網(wǎng)絡(luò)信息的技術(shù)。
在數(shù)據(jù)和技術(shù)方面，《規(guī)定》明確，采取必要措施保障訓練數(shù)據(jù)安全；訓練數(shù)據(jù)包含個人信息的，應(yīng)當遵守個人信息保護的有關(guān)規(guī)定；提供人臉、人聲等生物識別信息顯著編輯功能的，應(yīng)當提示使用者依法告知被編輯的個人，并取得其單獨同意。定期審核、評估、驗證生成合成類算法機制機理；提供具有對人臉、人聲等生物識別信息或者可能涉及國家安全、國家形象、國家利益和社會公共利益的特殊物體、場景等非生物識別信息編輯功能的模型、模板等工具的，應(yīng)當依法自行或者委托專業(yè)機構(gòu)開展安全評估。
《規(guī)定》同時指出，深度合成服務(wù)提供者提供深度合成服務(wù)，可能導致公眾混淆或者誤認的，應(yīng)當在生成或者編輯的信息內(nèi)容的合理位置、區(qū)域進行顯著標識，向公眾提示深度合成情況。具體包括：(一)智能對話、智能寫作等模擬自然人進行文本的生成或者編輯服務(wù)；(二)合成人聲、仿聲等語音生成或者顯著改變個人身份特征的編輯服務(wù)；(三)人臉生成、人臉替換、人臉操控、姿態(tài)操控等人物圖像、視頻生成或者顯著改變個人身份特征的編輯服務(wù)；(四)沉浸式擬真場景等生成或者編輯服務(wù)；(五)其他具有生成或者顯著改變信息內(nèi)容功能的服務(wù)。
根據(jù)清華大學人工智能研究院、瑞萊智慧等發(fā)布的深度合作十大趨勢報告(2022)，據(jù)不完全統(tǒng)計，創(chuàng)作者在互聯(lián)網(wǎng)平臺中發(fā)布的深度合成內(nèi)容的數(shù)量呈高速增長，以視頻為例，2021年新發(fā)布的深度合成視頻的數(shù)量較2017年已增長10倍以上。
每一次技術(shù)變革，在造福社會的同時，也不可避免地會帶來安全風險。對此，瑞萊智慧CEO田天向北京商報記者表示，技術(shù)不斷成熟是深度合成內(nèi)容迎來爆發(fā)式增長的重要原因。研究論文的持續(xù)增加、開源技術(shù)工具和大量代表性方法的涌現(xiàn)，令深度合成內(nèi)容的效果更加逼真、制作也更加高效，尤其是生成對抗網(wǎng)絡(luò)等算法的出現(xiàn)，讓合成內(nèi)容達到了“真假難辨”的程度。
負面風險不斷加劇，如何有效甄別深度合成內(nèi)容成為關(guān)鍵。談到深度合成的治理，中國工程院院士鄔賀銓認為，要持續(xù)發(fā)展技術(shù)，不能“一刀切”地禁止，避免阻礙正向應(yīng)用與創(chuàng)新。衍生出的安全問題要從源頭上解決，利用技術(shù)創(chuàng)新、技術(shù)對抗等方式，持續(xù)提升和迭代檢測技術(shù)的能力。田天也表示，新型偽造方法層出不窮、網(wǎng)絡(luò)傳播環(huán)境的日趨復雜，加上基于檢測算法存在漏洞缺陷等，反深偽檢測技術(shù)面臨“強對抗性”，需要持續(xù)更新與迭代。
（文章來源：北京商報）
