《人工智能生成合成內容標識辦法》從今年9月1日起將正式施行，“標識辦法”提出強制添加顯式和隱式標識等規(guī)范要求，所有AI生成的文字、圖片、視頻等內容，都要“亮明身份”，再也不能偷偷摸摸“以假亂真”了！那么，AI生成合成的內容標識由誰來添加？該怎么添加呢？對那些利用AI工具進行虛假信息傳播的“營銷號”能起到遏制作用嗎？
專家解讀：
AI生成內容要“亮明身份”
據中國人民大學未來法治研究院執(zhí)行院長張吉豫介紹，“標識辦法”明確了相關主體的責任義務，包括服務提供者需在內容生成、傳播、下載等環(huán)節(jié)確保標識完整，互聯網應用程序分發(fā)平臺需審核應用是否合規(guī)添加標識，個人用戶發(fā)布生成內容時需要主動聲明。
中國人民大學未來法治研究院執(zhí)行院長 張吉豫：它也是對隱式標識進行了具體細化，特別說明了在目前的技術情況下，至少要對這種文件的元數據進行標識，就是在文件中進行描述的數據，用戶看不到，這樣隱式標識就不影響用戶的使用，又起到了標識重要信息的作用。那么對于一些比如說可能引起公眾的混淆，甚至比較重要的誤解的這樣的一些重要的內容就需要去添加顯式的標識。
據張吉豫介紹，針對個人用戶借助AI進行文字創(chuàng)作時，如果不存在侵犯個人、企業(yè)、社會等主體利益的情況下，用戶則不需進行專門的標識。但是，如果借助AI生成的文字內容涉及模仿某人的話語表達、模仿媒體進行新聞發(fā)布，或者模仿政府部門發(fā)布相關公告等，這些容易讓人對客觀事實產生誤解、混淆的內容，都必須進行顯式標識。
張吉豫介紹，現在人工智能技術還都在發(fā)展，相應的檢測風險防范的技術還在發(fā)展中，所以目前來講，我們也不能說它是一個終極的辦法，只能說其實是在現在的技術條件之下采取的一個考慮到發(fā)展應用與安全風險防控，相平衡的這樣的一種目前階段比較良好的辦法。
將對行業(yè)和個人用戶產生哪些影響？
據記者了解，截至2024年12月31日，我國已經有302款生成式人工智能服務在國家網信辦完成備案；生成式人工智能產品的用戶規(guī)模達2.3億人。那么，“標識辦法”的施行會對行業(yè)、個人用戶，以及相關技術的發(fā)展帶來哪些影響呢？為什么要在半年之后才施行呢？我們繼續(xù)聽聽專家的解讀。
據專家介紹，在“標識辦法”的要求下，標識的存在也會對大規(guī)模搬運人工智能直接生成內容的行為進行攔截，讓內容平臺有了更明確的合規(guī)要求和管理程序，有利于降低總體的審核運營成本。
張吉豫表示，對于整個網絡空間、數字空間內容的真實性會有更大的促進，那也是我們的自媒體可以利用人工智能技術去使得自己視頻更加出彩，但是不要用它們去制造一些虛假的新聞來博得眼球，所以是引導廣大的自媒體可以更積極地利用人工智能技術。
專家介紹，“標識辦法”的施行有利于公平競爭和有效管理：
強制“標識”有利于保護傳統(tǒng)內容產業(yè)，能在一定程度上降低AI技術帶來的沖擊；
通過標識可以追溯AI生成內容的來源，減少因AI生成內容引發(fā)的侵權、詐騙等問題，維護個人隱私和財產安全。
據記者了解，作為我國人工智能領域首部“辦法+強標”的組合拳，強制性的國家標準《網絡安全技術人工智能生成合成內容標識方法》將于9月1日與《人工智能生成合成內容標識辦法》同步施行。
張吉豫介紹，在內容生成方這一點，它既需要去進行顯著的標識和一些隱性的標識，同時它也要為用戶去提供加入顯著標識，同時因為辦法里面也要求了傳播平臺也需要去部署相應的對標識的檢測，所以這樣的一些技術措施的部署還是需要一定的時間準備。(來源：央視新聞客戶端)