最近,，在百度上搜索照片時(shí)會(huì)發(fā)現(xiàn),，照片上有“AI圖片編輯”字樣,，點(diǎn)進(jìn)去后,，即使“小白”也可以一鍵實(shí)現(xiàn)圖片“變清晰,、去水印,、擴(kuò)圖,、智能摳圖”等，這在以前是不可想象的。讓復(fù)雜工作變得如此簡單,，自然要感謝近年來快速發(fā)展的人工智能,、深度合成等新技術(shù)。然而,，人工智能生成的文本,、圖像、音視頻等內(nèi)容在推動(dòng)經(jīng)濟(jì)創(chuàng)新,、豐富數(shù)字生態(tài)的同時(shí),，也引發(fā)了虛假信息傳播、破壞網(wǎng)絡(luò)生態(tài)等風(fēng)險(xiǎn),。如何區(qū)分,、確保數(shù)據(jù)質(zhì)量與內(nèi)容真實(shí)性，成為技術(shù)應(yīng)用與產(chǎn)業(yè)發(fā)展的關(guān)鍵命題,。

2025年3月7日,，國家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部,、公安部,、國家廣播電視總局聯(lián)合發(fā)布了《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》（以下簡稱《標(biāo)識(shí)辦法》）。這一辦法的出臺(tái),，標(biāo)志著我國在人工智能深度合成內(nèi)容管理領(lǐng)域邁出了重要一步,，為人工智能產(chǎn)業(yè)健康有序發(fā)展提供了制度保障。

高質(zhì)量數(shù)據(jù)對(duì)生成式人工智能產(chǎn)業(yè)發(fā)展至關(guān)重要

談及為何要發(fā)布《標(biāo)識(shí)辦法》,？全國政協(xié)委員,、金杜律師事務(wù)所高級(jí)合伙人張毅表示，數(shù)據(jù)是人工智能發(fā)展的基石,，其質(zhì)量直接影響人工智能模型的性能和輸出結(jié)果,。數(shù)據(jù)來源有多方面，包括公開數(shù)據(jù),、公共數(shù)據(jù),、私域數(shù)據(jù)等。而數(shù)據(jù)質(zhì)量涵蓋了準(zhǔn)確性,、完整性,、一致性、時(shí)效性,、可靠性和可用性等多個(gè)維度,。高質(zhì)量數(shù)據(jù)對(duì)生成式人工智能產(chǎn)業(yè)發(fā)展至關(guān)重要，基于錯(cuò)誤或不完整的數(shù)據(jù)作出的決策可能偏離正確方向,，不符合法規(guī)要求的數(shù)據(jù)可能帶來法律風(fēng)險(xiǎn)。

行業(yè)中有句俗話叫：垃圾（數(shù)據(jù)）進(jìn)，垃圾（結(jié)果）出,。如果生成式人工智能產(chǎn)生的結(jié)果未經(jīng)標(biāo)識(shí)而進(jìn)入公開數(shù)據(jù)領(lǐng)域,，大模型無法將其與正常數(shù)據(jù)區(qū)分開來，可能將其用于預(yù)訓(xùn)練,，導(dǎo)致模型可能輸出與事實(shí)嚴(yán)重偏離的結(jié)果,，即“模型幻覺”。更嚴(yán)峻的是,，若這些“幻覺數(shù)據(jù)”被其他模型二次訓(xùn)練使用,，將形成“污染循環(huán)”，最終導(dǎo)致技術(shù)可信度崩塌,。此外,，提升數(shù)據(jù)質(zhì)量的方式通常包括數(shù)據(jù)清洗和校驗(yàn)，如果“生成數(shù)據(jù)”不加標(biāo)識(shí),，數(shù)據(jù)清洗和校驗(yàn)也很難實(shí)現(xiàn),。這里所說的數(shù)據(jù)包括文字、圖片和視頻,。當(dāng)攝影師歷經(jīng)千辛萬苦拍攝的照片與生成照片混在一起時(shí),，如不加標(biāo)識(shí)，獲獎(jiǎng)的極有可能是生成式照片,；當(dāng)生成的視頻不加標(biāo)識(shí)地呈現(xiàn)在人們眼前時(shí),，會(huì)對(duì)人們的生活造成極大混亂和困擾。

《標(biāo)識(shí)辦法》的出臺(tái),，正是從源頭破解這一困局的關(guān)鍵舉措,。

明確標(biāo)識(shí)要求，讓生成內(nèi)容“看得見,、查得到”

“一是明確標(biāo)識(shí)要求,，讓生成內(nèi)容‘看得見、查得到’,?！睆堃阏f，《標(biāo)識(shí)辦法》明確,，人工智能生成合成內(nèi)容標(biāo)識(shí)包括顯式標(biāo)識(shí)和隱式標(biāo)識(shí)兩種形式,。顯式標(biāo)識(shí)要求服務(wù)提供者在生成內(nèi)容中嵌入可被用戶直接感知的提示，例如在文本首尾添加文字標(biāo)識(shí),、在圖片及視頻畫面中插入圖形,、聲音等顯著圖標(biāo)等，此舉可以確保用戶能直觀辨別生成內(nèi)容的人工智能屬性,。而隱式標(biāo)識(shí)則要求服務(wù)提供者通過技術(shù)手段將生成內(nèi)容的制作要素信息（如服務(wù)提供者編碼,、內(nèi)容編號(hào)等）嵌入文件元數(shù)據(jù)或數(shù)字水印中,，這既保障了標(biāo)識(shí)的持久性，也為后續(xù)數(shù)據(jù)清洗,、校驗(yàn)提供技術(shù)依據(jù),。隱式標(biāo)識(shí)不易被用戶明顯感知到。

二是《標(biāo)識(shí)辦法》細(xì)化了服務(wù)提供者,、平臺(tái),、用戶責(zé)任，明確了各方義務(wù),。張毅表示,，如服務(wù)提供者需在內(nèi)容生成、傳播各環(huán)節(jié)履行標(biāo)識(shí)義務(wù),，在提供下載功能時(shí)要確保顯式標(biāo)識(shí)滿足要求,，也就是要在深度合成的文本、圖片,、音頻,、視頻、呈現(xiàn)虛擬場(chǎng)景及其他生成合成服務(wù)場(chǎng)景中添加顯著的提示標(biāo)識(shí),，在文件元數(shù)據(jù)中要記錄隱式標(biāo)識(shí),，隱式標(biāo)識(shí)包含生成合成內(nèi)容屬性信息、服務(wù)提供者名稱或者編碼,、內(nèi)容編號(hào)等制作要素信息,，并要求通過用戶協(xié)議明確說明生成合成內(nèi)容標(biāo)識(shí)的方法、樣式等規(guī)范內(nèi)容,。

平臺(tái)在服務(wù)提供者的內(nèi)容上架或上線時(shí)要進(jìn)行審核,，核驗(yàn)生成合成內(nèi)容標(biāo)識(shí)，對(duì)未標(biāo)識(shí)或疑似生成內(nèi)容要添加風(fēng)險(xiǎn)提示,，從而在傳播端阻斷虛假信息擴(kuò)散,。

用戶發(fā)布從網(wǎng)上下載的生成合成內(nèi)容時(shí)，應(yīng)當(dāng)主動(dòng)聲明并使用他人提供的標(biāo)識(shí)功能進(jìn)行標(biāo)識(shí),，不得惡意刪除,、篡改、偽造,、隱匿生成合成內(nèi)容標(biāo)識(shí),，不得通過不正當(dāng)標(biāo)識(shí)手段損害他人合法權(quán)益，違者將承擔(dān)法律責(zé)任,。

《標(biāo)識(shí)辦法》的第三個(gè)亮點(diǎn)是與《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》《生成式人工智能服務(wù)管理暫行辦法》等法規(guī)充分銜接,。比如，服務(wù)提供者在履行算法備案,、安全評(píng)估等手續(xù)時(shí),，應(yīng)當(dāng)提供生成合成內(nèi)容標(biāo)識(shí)相關(guān)材料,，為防范打擊相關(guān)違法犯罪活動(dòng)提供支持和幫助。這主要是因?yàn)?，相關(guān)材料可能涉及標(biāo)識(shí)的技術(shù)細(xì)節(jié),，如水印算法、元數(shù)據(jù)格式,、服務(wù)商編碼等，這些信息能夠幫助執(zhí)法部門在發(fā)現(xiàn)違法內(nèi)容時(shí)快速識(shí)別內(nèi)容來源,，追蹤到服務(wù)提供者或者用戶,。以金融詐騙案件為例，當(dāng)不法分子利用人工智能生成虛假信息,、偽造文書等方式實(shí)施金融詐騙時(shí),，執(zhí)法機(jī)關(guān)可以根據(jù)技術(shù)細(xì)節(jié)迅速判斷該內(nèi)容是否由人工智能生成，追溯由哪家服務(wù)提供者生成,、具體生成的時(shí)間和使用賬號(hào),，并迅速鎖定幕后黑手。這些信息就像是數(shù)字世界的“指紋”,，可以為案件偵破提供關(guān)鍵線索,。

此外，配套《標(biāo)識(shí)辦法》,，強(qiáng)制性國家標(biāo)準(zhǔn)《網(wǎng)絡(luò)安全技術(shù) 人工智能生成合成內(nèi)容標(biāo)識(shí)方法》,，已由國家市場(chǎng)監(jiān)督管理總局、國家標(biāo)準(zhǔn)化管理委員會(huì)正式批準(zhǔn)發(fā)布,，2025年9月1日與《標(biāo)識(shí)辦法》同步實(shí)施,。這些都為行業(yè)發(fā)展提供了可操作的合規(guī)路徑。

彰顯中國在推動(dòng)人工智能健康發(fā)展方面的責(zé)任與擔(dān)當(dāng)

“《標(biāo)識(shí)辦法》的落地對(duì)于規(guī)范生成合成內(nèi)容標(biāo)識(shí),、保障人工智能健康發(fā)展具有重要意義,。”張毅說,，通過規(guī)范生成合成內(nèi)容的標(biāo)識(shí),，可以有效區(qū)分人工智能生成內(nèi)容與真實(shí)數(shù)據(jù)，避免“幻覺數(shù)據(jù)”進(jìn)入公開數(shù)據(jù)領(lǐng)域,，從而提升數(shù)據(jù)質(zhì)量,，保障人工智能模型輸出的準(zhǔn)確性。另外,，有助于減少虛假信息的傳播,，維護(hù)網(wǎng)絡(luò)空間的清朗生態(tài)。與此同時(shí),，還能夠增強(qiáng)用戶對(duì)人工智能生成內(nèi)容的信任,，推動(dòng)生成式人工智能技術(shù)在更多領(lǐng)域的應(yīng)用落地,，為社會(huì)經(jīng)濟(jì)發(fā)展注入新動(dòng)能。此外,，《標(biāo)識(shí)辦法》的出臺(tái),，體現(xiàn)了我國在人工智能治理領(lǐng)域的積極探索，彰顯了中國在推動(dòng)人工智能健康發(fā)展方面的責(zé)任與擔(dān)當(dāng),，也為全球人工智能治理提供中國方案,。

《標(biāo)識(shí)辦法》以“標(biāo)識(shí)”為錨點(diǎn)，既為技術(shù)應(yīng)用劃定安全邊界,，也為社會(huì)信任筑牢基石,，但人工智能治理仍任重道遠(yuǎn)。未來,，還需要進(jìn)一步完善相關(guān)法規(guī)和標(biāo)準(zhǔn),，加強(qiáng)技術(shù)研發(fā)和應(yīng)用，提升數(shù)據(jù)質(zhì)量和治理能力,。同時(shí),，社會(huì)各界也應(yīng)積極參與，共同推動(dòng)人工智能的健康發(fā)展,，為構(gòu)建智能社會(huì)貢獻(xiàn)力量,。（記者 徐艷紅）