構(gòu)建可信AI生態(tài)：解析生成合成內(nèi)容標(biāo)識(shí)新規(guī)

  中國(guó)報(bào)告大廳網(wǎng)訊，近年來(lái)，人工智能技術(shù)的快速發(fā)展在推動(dòng)社會(huì)進(jìn)步的同時(shí)，也催生了虛假信息泛濫、身份冒用等新型風(fēng)險(xiǎn)。為規(guī)范人工智能生成合成內(nèi)容傳播秩序，四部門(mén)聯(lián)合發(fā)布的《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》（以下簡(jiǎn)稱(chēng)“辦法”）將于2025年9月1日正式實(shí)施。該辦法通過(guò)建立全流程監(jiān)管機(jī)制，明確了內(nèi)容制作方、分發(fā)平臺(tái)及用戶(hù)的多方責(zé)任，旨在構(gòu)建可信賴(lài)的AI技術(shù)應(yīng)用環(huán)境。

  一、明確內(nèi)容生產(chǎn)者核心義務(wù)：強(qiáng)化生成環(huán)節(jié)標(biāo)識(shí)管理

  辦法要求所有人工智能生成合成的內(nèi)容必須添加顯式標(biāo)識(shí)與隱式標(biāo)識(shí)。對(duì)于文本、音頻、圖片、視頻等各類(lèi)內(nèi)容，在傳播過(guò)程中需確保文件中包含符合標(biāo)準(zhǔn)的顯式標(biāo)識(shí)；同時(shí)，服務(wù)提供者還須在元數(shù)據(jù)中嵌入不可篡改的隱式標(biāo)識(shí)。這一舉措通過(guò)技術(shù)手段實(shí)現(xiàn)“生成即標(biāo)記”，為后續(xù)傳播環(huán)節(jié)的風(fēng)險(xiǎn)防控打下基礎(chǔ)。

  二、規(guī)范分發(fā)平臺(tái)審核責(zé)任：從源頭阻斷風(fēng)險(xiǎn)擴(kuò)散

  互聯(lián)網(wǎng)應(yīng)用程序分發(fā)平臺(tái)需承擔(dān)起內(nèi)容安全的第一道防線(xiàn)職責(zé)。根據(jù)辦法規(guī)定，平臺(tái)在審核應(yīng)用程序上架或更新時(shí)，必須要求服務(wù)提供者說(shuō)明是否涉及生成合成技術(shù)，并核驗(yàn)其標(biāo)識(shí)合規(guī)性材料。此舉將倒逼開(kāi)發(fā)者主動(dòng)落實(shí)標(biāo)識(shí)規(guī)范，從源頭減少未標(biāo)注內(nèi)容進(jìn)入傳播鏈條的可能性。

  三、構(gòu)建多方協(xié)同治理機(jī)制：用戶(hù)參與與社會(huì)監(jiān)督并重

  辦法不僅約束技術(shù)服務(wù)方和平臺(tái)方，還明確用戶(hù)在發(fā)布生成合成內(nèi)容時(shí)應(yīng)主動(dòng)使用服務(wù)提供者的標(biāo)識(shí)功能，并聲明內(nèi)容來(lái)源。同時(shí)，禁止任何組織或個(gè)人惡意刪除、偽造標(biāo)識(shí)，或?yàn)樗藢?shí)施此類(lèi)行為提供工具支持。這一全面覆蓋生產(chǎn)、傳播、使用的治理框架，將顯著提升虛假信息的識(shí)別效率與追溯能力。

  四、配套標(biāo)準(zhǔn)強(qiáng)化技術(shù)支撐：構(gòu)建安全可信的技術(shù)底座

  辦法同步推進(jìn)強(qiáng)制性國(guó)家標(biāo)準(zhǔn)《網(wǎng)絡(luò)安全技術(shù) 人工智能生成合成內(nèi)容標(biāo)識(shí)方法》的實(shí)施，通過(guò)統(tǒng)一技術(shù)規(guī)范確保標(biāo)識(shí)系統(tǒng)的兼容性和可靠性。該標(biāo)準(zhǔn)為顯式標(biāo)識(shí)的可視化設(shè)計(jì)、隱式標(biāo)識(shí)的數(shù)據(jù)結(jié)構(gòu)等提供具體指導(dǎo)，使監(jiān)管要求轉(zhuǎn)化為可落地的技術(shù)方案，進(jìn)一步夯實(shí)安全治理基礎(chǔ)。

  總結(jié)：劃清責(zé)任邊界 助力AI向善發(fā)展

  《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》通過(guò)建立“生產(chǎn)分發(fā)傳播”全鏈條標(biāo)識(shí)機(jī)制，既為技術(shù)應(yīng)用劃定清晰的合規(guī)邊界，也為公眾識(shí)別信息真?zhèn)翁峁┝丝煽恳罁?jù)。這一政策不僅回應(yīng)了當(dāng)前深度偽造、虛假消息等社會(huì)關(guān)切問(wèn)題，更體現(xiàn)了我國(guó)在推動(dòng)AI技術(shù)創(chuàng)新與安全治理協(xié)同發(fā)展的制度智慧。未來(lái)隨著配套措施逐步落地，人工智能生成合成內(nèi)容將實(shí)現(xiàn)“可標(biāo)識(shí)、可追溯、可監(jiān)管”，為技術(shù)健康發(fā)展?fàn)I造清朗空間。

更多人工智能行業(yè)研究分析，詳見(jiàn)中國(guó)報(bào)告大廳《人工智能行業(yè)報(bào)告匯總》。這里匯聚海量專(zhuān)業(yè)資料，深度剖析各行業(yè)發(fā)展態(tài)勢(shì)與趨勢(shì)，為您的決策提供堅(jiān)實(shí)依據(jù)。

更多詳細(xì)的行業(yè)數(shù)據(jù)盡在【數(shù)據(jù)庫(kù)】，涵蓋了宏觀數(shù)據(jù)、產(chǎn)量數(shù)據(jù)、進(jìn)出口數(shù)據(jù)、價(jià)格數(shù)據(jù)及上市公司財(cái)務(wù)數(shù)據(jù)等各類(lèi)型數(shù)據(jù)內(nèi)容。