證券日報微信

證券日報微博

《人工智能生成合成內(nèi)容標(biāo)識辦法》發(fā)布 人工智能健康有序發(fā)展可期

2025-03-17 00:10  來源:證券日報 

    本報記者 郭冀川

    近日,國家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部、公安部、國家廣播電視總局聯(lián)合發(fā)布《人工智能生成合成內(nèi)容標(biāo)識辦法》(以下簡稱《標(biāo)識辦法》),自2025年9月1日起施行。

    近年來,生成式人工智能、深度合成等前沿技術(shù)如雨后春筍般蓬勃興起,為創(chuàng)作合成文本、圖像、音頻、視頻等各類信息提供了便捷工具。然而,隨之而來的是虛假信息泛濫、網(wǎng)絡(luò)生態(tài)遭受破壞等一系列棘手問題。為了應(yīng)對這些嚴(yán)峻挑戰(zhàn),《標(biāo)識辦法》應(yīng)運而生。

    國家互聯(lián)網(wǎng)信息辦公室有關(guān)負責(zé)人表示,《標(biāo)識辦法》聚焦人工智能“生成合成內(nèi)容標(biāo)識”關(guān)鍵點,通過標(biāo)識提醒用戶辨別虛假信息,明確相關(guān)服務(wù)主體的標(biāo)識責(zé)任義務(wù),規(guī)范內(nèi)容制作、傳播各環(huán)節(jié)標(biāo)識行為,以合理成本提高安全性,促進人工智能在文本對話、內(nèi)容制作、輔助設(shè)計等各應(yīng)用場景加快落地,同時減輕人工智能生成合成技術(shù)濫用危害,防范利用人工智能技術(shù)制作傳播虛假信息等風(fēng)險行為,推動人工智能健康有序發(fā)展。

    《標(biāo)識辦法》提出,服務(wù)提供者應(yīng)當(dāng)按照《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》第十六條的規(guī)定,在生成合成內(nèi)容的文件元數(shù)據(jù)中添加隱式標(biāo)識,隱式標(biāo)識包含生成合成內(nèi)容屬性信息、服務(wù)提供者名稱或者編碼、內(nèi)容編號等制作要素信息。鼓勵服務(wù)提供者在生成合成內(nèi)容中添加數(shù)字水印等形式的隱式標(biāo)識。

    《標(biāo)識辦法》要求,互聯(lián)網(wǎng)應(yīng)用程序分發(fā)平臺在應(yīng)用程序上架或者上線審核時,應(yīng)當(dāng)要求互聯(lián)網(wǎng)應(yīng)用程序服務(wù)提供者說明是否提供人工智能生成合成服務(wù)?;ヂ?lián)網(wǎng)應(yīng)用程序服務(wù)提供者提供人工智能生成合成服務(wù)的,互聯(lián)網(wǎng)應(yīng)用程序分發(fā)平臺應(yīng)當(dāng)核驗其生成合成內(nèi)容標(biāo)識相關(guān)材料。

    中關(guān)村物聯(lián)網(wǎng)產(chǎn)業(yè)聯(lián)盟副秘書長袁帥對《證券日報》記者表示,《標(biāo)識辦法》的出臺,旨在解決人工智能生成合成內(nèi)容被濫用、虛假信息肆意傳播以及由此引發(fā)的社會信任危機等具體問題。其核心目標(biāo)在于通過規(guī)范標(biāo)識管理,提醒用戶在瀏覽網(wǎng)絡(luò)信息時保持警覺,明辨真?zhèn)巍?/p>

    中國移動通信聯(lián)合會教育與科學(xué)技術(shù)研究院執(zhí)行院長陳曉華對記者表示,相關(guān)企業(yè)需按照《標(biāo)識辦法》的要求,對生成合成內(nèi)容添加明確標(biāo)識和隱性標(biāo)識,這對企業(yè)的合規(guī)提出了新的要求。從長遠來看,這一舉措有助于企業(yè)塑造良好的品牌形象和信譽度。

    陳曉華說:“隨著《標(biāo)識辦法》的實施,那些能夠迅速適應(yīng)并落實相關(guān)要求的企業(yè)將在市場競爭中搶占先機。這將促使企業(yè)加強內(nèi)部管理、提升技術(shù)水平和服務(wù)質(zhì)量。為了滿足市場需求和監(jiān)管要求,企業(yè)需要加大技術(shù)研發(fā)投入,研發(fā)更加高效、精準(zhǔn)的標(biāo)識技術(shù)和工具,提高內(nèi)容標(biāo)識的準(zhǔn)確性和可靠性。”

    盤古智庫高級研究員吳琦在接受《證券日報》記者采訪時表示,通過明確的標(biāo)識規(guī)定,可以引導(dǎo)企業(yè)更加合規(guī)地使用人工智能技術(shù),這將避免技術(shù)濫用帶來的風(fēng)險隱患,防止企業(yè)因追求短期利益而損害市場的長遠發(fā)展。

(編輯 張博)

-證券日報網(wǎng)
  • 24小時排行 一周排行

版權(quán)所有《證券日報》社有限責(zé)任公司

互聯(lián)網(wǎng)新聞信息服務(wù)許可證 10120240020增值電信業(yè)務(wù)經(jīng)營許可證 京B2-20250455

京公網(wǎng)安備 11010602201377號京ICP備19002521號

證券日報網(wǎng)所載文章、數(shù)據(jù)僅供參考,使用前務(wù)請仔細閱讀法律申明,風(fēng)險自負。

證券日報社電話:010-83251700網(wǎng)站電話:010-83251800

網(wǎng)站傳真:010-83251801電子郵件:xmtzx@zqrb.net

官方客戶端

安卓

IOS

官方微信

掃一掃,加關(guān)注

官方微博

掃一掃,加關(guān)注