近年來，人工智能技術(shù)快速發(fā)展，為生成合成文字、圖片、音頻、視頻等信息提供了便利，但也產(chǎn)生了生成合成技術(shù)濫用、虛假信息傳播擴散加劇等問題。國家網(wǎng)信辦等四部門聯(lián)合發(fā)布的《人工智能生成合成內(nèi)容標識辦法》，9月1日起正式施行，“標識辦法”明確所有AI生成的文字、圖片、視頻等內(nèi)容都要“亮明身份”。

  截至目前，我國已有490余款大模型在國家網(wǎng)信辦完成備案，240余款大模型在省級網(wǎng)信辦完成登記，我國生成式人工智能產(chǎn)品的用戶規(guī)模已達2.3億人。

  9月1日起，人工智能生成合成內(nèi)容將打上“電子水印”，重點解決“哪些是人工智能生成的”“誰生成的”“從哪里生成的”等問題。

  具體怎么加？

  “標識辦法”明確，服務(wù)提供者應(yīng)當對文本、音頻、圖片、視頻、虛擬場景等生成合成內(nèi)容添加顯式標識。以文字、聲音、圖形等方式呈現(xiàn)并可以被用戶明顯感知到。

  在提供生成合成內(nèi)容下載、復(fù)制、導(dǎo)出等功能時，應(yīng)當確保文件中含有滿足要求的顯式標識。

  在記錄文件來源、屬性、用途等信息內(nèi)容的文件元數(shù)據(jù)中還應(yīng)當添加隱式標識，包含屬性信息、服務(wù)提供者名稱或者編碼、內(nèi)容編號等制作要素信息。

  如何安全管理？

  不僅如此，“標識辦法”與《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》《生成式人工智能服務(wù)管理暫行辦法》等法規(guī)充分銜接。服務(wù)提供者在履行算法備案、安全評估等手續(xù)時，相關(guān)材料可能涉及標識的技術(shù)細節(jié)，如水印算法、元數(shù)據(jù)格式、服務(wù)商編碼等，這些信息能夠幫助執(zhí)法部門在發(fā)現(xiàn)違法內(nèi)容時快速識別內(nèi)容來源，追蹤到服務(wù)提供者或者用戶。

  任何組織和個人不得惡意刪除、篡改、偽造、隱匿標識。推動由生成到傳播各環(huán)節(jié)全流程安全管理。從源頭阻斷不良內(nèi)容傳播，打造可信賴的人工智能技術(shù)。