界面新聞
2025-09-04 13:50
據(jù)9月1日央視網(wǎng)報道，國家網(wǎng)信辦等四部門聯(lián)合發(fā)布的《人工智能生成合成內(nèi)容標(biāo)識辦法》9月1日起正式施行，該辦法明確所有AI生成的文字、圖片、視頻等內(nèi)容都要“亮明身份”。
在數(shù)字化浪潮洶涌的今天，人工智能已日益滲透進(jìn)我們的日常生活。從智能語音助手到自動駕駛汽車，從個性化推薦系統(tǒng)到AI繪畫與寫作，AI技術(shù)的每一次躍進(jìn)都在重新定義著人類與技術(shù)的互動邊界。然而，隨著AI生成合成內(nèi)容的爆炸性增長，一系列倫理、法律和社會問題也隨之浮現(xiàn)?！度斯ぶ悄苌珊铣蓛?nèi)容標(biāo)識辦法》的施行，標(biāo)志著我國在AI治理領(lǐng)域邁出了重要一步，為AI生成內(nèi)容的透明化管理樹立了標(biāo)桿。
該辦法的核心在于要求所有AI生成的文字、圖片、視頻等內(nèi)容必須“亮明身份”，這直擊當(dāng)前AI應(yīng)用中的一大痛點——真實性與可信度的缺失。在信息爆炸的時代，虛假信息的傳播速度之快、范圍之廣，往往超乎想象。AI技術(shù)的濫用，尤其是深度偽造技術(shù)的成熟，使得制造逼真卻完全虛構(gòu)的內(nèi)容變得輕而易舉，這對個人隱私、社會穩(wěn)定乃至國家安全構(gòu)成嚴(yán)峻挑戰(zhàn)。因此，強(qiáng)制AI生成內(nèi)容添加標(biāo)識，不僅是技術(shù)倫理的體現(xiàn)，更是維護(hù)信息生態(tài)健康、保障公眾知情權(quán)的必要之舉。
截至2024年底，我國共有302款生成式人工智能服務(wù)完成備案，注冊用戶總數(shù)超過6億，多款大模型產(chǎn)品性能位于全球前列。AI技術(shù)迅猛普及的同時，也形成了對有效監(jiān)管的迫切需求。該標(biāo)識辦法通過顯式標(biāo)識和隱式標(biāo)識的雙重機(jī)制，著力構(gòu)建起一道從內(nèi)容生成到傳播的全鏈條防線。平臺在內(nèi)容上架前的審核環(huán)節(jié)，不僅要檢查是否已添加標(biāo)識，還需對未標(biāo)識或疑似生成的內(nèi)容添加風(fēng)險提示，這一設(shè)計有望有效攔截虛假信息的源頭，降低其在網(wǎng)絡(luò)空間中的擴(kuò)散風(fēng)險。
該標(biāo)識辦法并非孤立存在，而是與《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》《生成式人工智能服務(wù)管理暫行辦法》等現(xiàn)有法規(guī)緊密銜接，全方位覆蓋AI內(nèi)容管理，不僅會提升監(jiān)管效率，也會促使服務(wù)提供者在履行算法備案、安全評估等手續(xù)時，更注重技術(shù)細(xì)節(jié)的合規(guī)性，如水印算法的不可篡改性、元數(shù)據(jù)格式的標(biāo)準(zhǔn)化等。長遠(yuǎn)看，這將推動整個行業(yè)向更加規(guī)范、自律的方向發(fā)展，形成良性競爭的市場環(huán)境。
當(dāng)然，AI生成內(nèi)容標(biāo)識制度的落地同樣面臨諸多挑戰(zhàn)，如技術(shù)實現(xiàn)的復(fù)雜性、跨平臺標(biāo)識的統(tǒng)一性、國際標(biāo)準(zhǔn)的協(xié)調(diào)等。期待相關(guān)方面能主動作為、積極應(yīng)對，進(jìn)一步通過制度創(chuàng)新引導(dǎo)技術(shù)向善，為相關(guān)問題找到更優(yōu)解。
AI生成內(nèi)容“亮明身份”邁出AI治理重要一步，相信隨著這一政策的深入實施，AI技術(shù)將在更加清晰的規(guī)則框架內(nèi)，更好地服務(wù)于經(jīng)濟(jì)社會發(fā)展。
