聯(lián)系電話：0915-3356512
投稿郵箱：news@akxw.cn
聯(lián)系電話：0915-3356512 投稿郵箱：news@akxw.cn人工智能技術(shù)迅猛發(fā)展，為各個(gè)產(chǎn)業(yè)領(lǐng)域的應(yīng)用都帶來(lái)重要的技術(shù)迭代和變革。當(dāng)前內(nèi)容生成成為人工智能的主要應(yīng)用形式之一。人工智能生成、合成內(nèi)容已囊括文本、圖片、視頻、虛擬場(chǎng)景等多種形式。毋庸置疑，人工智能生成內(nèi)容技術(shù)的發(fā)展，降低了內(nèi)容生成門檻，改變了傳統(tǒng)內(nèi)容生產(chǎn)方式，為互聯(lián)網(wǎng)內(nèi)容生態(tài)帶來(lái)了全新的變革和機(jī)遇，同時(shí)也伴隨著風(fēng)險(xiǎn)、挑戰(zhàn)和治理難題。亟需構(gòu)建具有針對(duì)性的治理機(jī)制，推動(dòng)內(nèi)容標(biāo)識(shí)的規(guī)范使用，并將其作為重要舉措納入法治化框架。《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》和《網(wǎng)絡(luò)安全技術(shù) 人工智能生成合成內(nèi)容標(biāo)識(shí)方法》強(qiáng)制性國(guó)家標(biāo)準(zhǔn)從實(shí)體規(guī)則和配套技術(shù)標(biāo)準(zhǔn)層面，對(duì)內(nèi)容標(biāo)識(shí)規(guī)定的細(xì)化落地和統(tǒng)一適用提供了重要的制度方案。
一、人工智能生成合成內(nèi)容的治理難題及其法治應(yīng)對(duì)
通過(guò)人工智能生成合成技術(shù)降低了內(nèi)容“偽造”“造假”等的時(shí)間成本，尤其在圖片、音頻、視頻等領(lǐng)域，從早期引起廣泛關(guān)注的“換臉”工具，到偽造人聲、通話視頻的詐騙活動(dòng)，再到“被壓在廢墟下的小男孩”等熱點(diǎn)事件，人工智能技術(shù)帶來(lái)的深度偽造、虛假信息、不良信息、抄襲侵權(quán)等問題，集中涌現(xiàn)出來(lái)，對(duì)包括內(nèi)容治理在內(nèi)的網(wǎng)絡(luò)空間秩序構(gòu)成挑戰(zhàn)，對(duì)于治理工具、方式和手段也提出了更新更高的要求。
為應(yīng)對(duì)人臉替換、語(yǔ)音合成、場(chǎng)景造假等深度偽造技術(shù)帶來(lái)的挑戰(zhàn)，我國(guó)已經(jīng)通過(guò)出臺(tái)《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》《生成式人工智能服務(wù)管理暫行辦法》等規(guī)定對(duì)此進(jìn)行回應(yīng)，規(guī)定了服務(wù)提供者、技術(shù)支持者的相關(guān)義務(wù)，包括避免用戶混淆或誤認(rèn)，杜絕違法信息和虛假信息傳播，對(duì)使用其服務(wù)生成或者編輯的信息內(nèi)容，應(yīng)當(dāng)采取技術(shù)措施添加不影響用戶使用的標(biāo)識(shí)，并依照相關(guān)規(guī)定保存日志信息等。
我國(guó)針對(duì)人工智能生成合成內(nèi)容標(biāo)識(shí)這一信息工具的法治化規(guī)范舉措，具有兩方面的特點(diǎn)。一是將內(nèi)容治理義務(wù)不再局限于內(nèi)容的生產(chǎn)者和傳播者，而是拓展到為生產(chǎn)者和傳播者提供技術(shù)支持的主體，要求真正對(duì)技術(shù)擁有掌控能力的相關(guān)主體切實(shí)承擔(dān)起治理義務(wù)，從源頭采取措施；二是在現(xiàn)有內(nèi)容治理手段基礎(chǔ)上，明確規(guī)定了通過(guò)添加技術(shù)“標(biāo)識(shí)”的方式，幫助用戶有效識(shí)別人工智能生成內(nèi)容，并通過(guò)根據(jù)風(fēng)險(xiǎn)程度分級(jí)分類在內(nèi)容治理中加以落實(shí)。
二、從法治層面進(jìn)一步細(xì)化內(nèi)容標(biāo)識(shí)規(guī)定的必要性
通過(guò)技術(shù)標(biāo)識(shí)例如添加水印等方式，來(lái)對(duì)人工智能生成合成內(nèi)容以顯式標(biāo)識(shí)進(jìn)行提示，方便用戶快速分辨，并通過(guò)隱式標(biāo)識(shí)提供識(shí)別和追溯功能，這種模式通過(guò)技術(shù)賦能，可以在對(duì)內(nèi)容傳播干預(yù)較小的前提下實(shí)現(xiàn)較為有效的治理效果，實(shí)際上也是國(guó)際上一定程度上形成共識(shí)的做法。例如，歐盟《人工智能法》第四章專門規(guī)定了“特定人工智能系統(tǒng)的提供者和部署者的透明度義務(wù)”，要求“生成或操縱構(gòu)成深度偽造的圖像、音頻或視頻內(nèi)容的人工智能系統(tǒng)的部署者應(yīng)當(dāng)披露該內(nèi)容是人為生成或操縱的”，并要求“最遲應(yīng)在首次互動(dòng)或接觸時(shí)以清晰可辨的方式提供給相關(guān)自然人”。美國(guó)加州于2024年通過(guò)的《人工智能透明度法案》規(guī)定了人工智能系統(tǒng)提供者針對(duì)人工智能生成內(nèi)容提供檢測(cè)工具、顯性標(biāo)識(shí)功能以及設(shè)置隱式標(biāo)識(shí)的義務(wù)。
盡管我國(guó)已經(jīng)明確提出為人工智能生成合成內(nèi)容添加標(biāo)識(shí)的要求，由于內(nèi)容生成合成產(chǎn)業(yè)鏈中涉及的相關(guān)主體分散，產(chǎn)業(yè)鏈條較為復(fù)雜，包括人工智能生成合成內(nèi)容的工具開發(fā)者、工具部署者、工具使用者、內(nèi)容加工者、內(nèi)容傳播者、內(nèi)容傳播平臺(tái)以及廣大用戶等，都涉及到對(duì)標(biāo)識(shí)的使用和內(nèi)容的識(shí)別、傳播等行為。目前各方主體的標(biāo)識(shí)落實(shí)責(zé)任分工和層次尚需進(jìn)一步明確，標(biāo)識(shí)的標(biāo)準(zhǔn)化和互認(rèn)程度也有待進(jìn)一步提升，內(nèi)容標(biāo)識(shí)落地的過(guò)程尚需更加細(xì)致、全面、系統(tǒng)的規(guī)范，需要行業(yè)各主體共同努力，形成合力，也需要全面推進(jìn)相應(yīng)的標(biāo)準(zhǔn)化技術(shù)和工具的開發(fā)和應(yīng)用。
三、促進(jìn)內(nèi)容標(biāo)識(shí)義務(wù)全面落地的法治化路徑
《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》為相關(guān)主體如何開展內(nèi)容標(biāo)識(shí)工作做出了制度回應(yīng)。一方面，為了實(shí)現(xiàn)有效便捷提示，同時(shí)盡量減小對(duì)內(nèi)容呈現(xiàn)和傳播效果的干擾，需要進(jìn)一步明確文本、音頻、圖片、視頻、虛擬場(chǎng)景等應(yīng)用場(chǎng)景下，人工智能生成合成內(nèi)容顯式標(biāo)識(shí)的呈現(xiàn)方式。另一方面，為了實(shí)現(xiàn)生成合成信息的有效傳遞，需要進(jìn)一步規(guī)范文件元數(shù)據(jù)隱式標(biāo)識(shí)的添加、識(shí)別、更新方法。此外，服務(wù)提供者、內(nèi)容提供者、內(nèi)容傳播平臺(tái)、應(yīng)用服務(wù)分發(fā)平臺(tái)以及用戶等各方主體，需要厘清和明確各方在人工智能生成合成內(nèi)容標(biāo)識(shí)方面的義務(wù)和責(zé)任體系，引導(dǎo)合規(guī)和治理體系的形成和完善。配套發(fā)布的《網(wǎng)絡(luò)安全技術(shù) 人工智能生成合成內(nèi)容標(biāo)識(shí)方法》強(qiáng)制性國(guó)家標(biāo)準(zhǔn)，針對(duì)人工智能生成合成標(biāo)識(shí)的技術(shù)實(shí)現(xiàn)方式給出了更加細(xì)致、精準(zhǔn)的指引，并配以具體的實(shí)現(xiàn)范例，有助于相關(guān)行業(yè)各主體采取相應(yīng)的技術(shù)措施、全面準(zhǔn)確落實(shí)內(nèi)容標(biāo)識(shí)義務(wù)，并實(shí)現(xiàn)標(biāo)識(shí)技術(shù)的標(biāo)準(zhǔn)化，提高互認(rèn)程度，降低由于標(biāo)準(zhǔn)不統(tǒng)一帶來(lái)的合規(guī)成本。
《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》及其配套技術(shù)標(biāo)準(zhǔn)的出臺(tái)，有望在法治化的基礎(chǔ)上進(jìn)一步規(guī)范我國(guó)人工智能生成合成內(nèi)容標(biāo)識(shí)應(yīng)用實(shí)踐，厘清不同主體的責(zé)任邊界，建立標(biāo)準(zhǔn)化的標(biāo)識(shí)互認(rèn)機(jī)制，有效降低公眾辨識(shí)人工智能生成合成內(nèi)容的成本，減少生成合成內(nèi)容帶來(lái)的誤導(dǎo)乃至欺詐風(fēng)險(xiǎn)，通過(guò)提升人工智能應(yīng)用的透明度來(lái)增強(qiáng)公眾的認(rèn)知能力和信任程度，在透明、可信、安全的內(nèi)容生態(tài)建設(shè)基礎(chǔ)上，促進(jìn)信息的有效流動(dòng)，推動(dòng)代表新質(zhì)生產(chǎn)力的人工智能產(chǎn)業(yè)快速健康發(fā)展。通過(guò)各方主體形成合力，共同培養(yǎng)培育生成、傳播內(nèi)容的媒介素養(yǎng)和行為倫理，方能標(biāo)本兼治，推動(dòng)形成更加健康有序、風(fēng)清氣朗的網(wǎng)絡(luò)內(nèi)容生態(tài)空間。（作者：劉曉春，中國(guó)社會(huì)科學(xué)院大學(xué)互聯(lián)網(wǎng)法治研究中心主任）
