AI生成內容不得“隱身”傳播。昨天，國家網信辦等四部門聯合發(fā)布的《人工智能生成合成內容標識辦法》(以下簡稱《標識辦法》)正式施行，所有AI生成的文字、圖片、視頻等內容均須“亮明身份”。新規(guī)落地之際，多家互聯網平臺響應，相關用戶協議已修改升級，將嚴打對AI生成技術的濫用行為。

各社交平臺更新用戶協議

“AI‘假孫子’總算現原形了?！弊蛱?，市民劉先生打開一家短視頻平臺，發(fā)現之前奶奶愛看的“萌娃”短視頻下面多了一行小字：“作者提示：內容為AI技術制作，虛構內容請謹慎甄別”，“這下老人總該相信，這些一兩歲的孩子洗菜燒火都是假的了?！?/span>

提示小字的上線，與《標識辦法》密切相關。據規(guī)定，利用人工智能技術生成的文本、圖片、音頻、視頻、虛擬場景等信息，必須添加顯式和隱式兩種標識。顯式標識指可以被用戶明顯感知到的標識，隱式標識指在生成內容的數據中添加的標識。

“哪些內容是生成的”“內容從哪里生成的”“誰生成的這些內容”……《標識辦法》明確了生成合成內容制作傳播各主體的責任義務。比如服務提供者應在內容生成、傳播、下載等環(huán)節(jié)確保標識完整；互聯網應用程序分發(fā)平臺應審核應用是否具備添加標識功能；個人用戶發(fā)布生成內容時應主動聲明。

新規(guī)落地后，記者注意到，各社交媒體平臺相關用戶協議已有所更新。微信、視頻號、抖音、B站、微博、小紅書等平臺，要求內容發(fā)布者以顯著方式主動標識AI生成內容。對于不主動標識AI生成內容的行為，部分平臺表示會采取限流、下架、封號等措施。同時，部分社交平臺表示，還將對可能是AI生成合成的內容進行相應提示，以便用戶清晰識別。

完善標識防范AI以假亂真

給AI生成合成內容加上標識，為何需要單獨出臺文件加以規(guī)制？據悉，標識制度的獨特制度價值已經成為國際共識。日前，美國、新加坡、歐盟、英國等國家和地區(qū)紛紛采取措施推進生成式人工智能標識制度的建立。

“標識制度的主要目標是實現大規(guī)模、高可靠性和低成本的監(jiān)管?！敝袊茖W院科技戰(zhàn)略咨詢研究院研究員肖尤丹表示，此次新規(guī)雖然切口小，但可以用較小的合規(guī)成本，較好地解決當前AI技術快速發(fā)展帶來的新問題。標識制度對利用AI技術抄襲、搬運內容的新媒體營銷號無疑是一次沉重打擊。同時，平臺方可以追溯到服務提供者，明確其是否履行了標識義務。

作為我國人工智能領域首部“辦法+強制性國家標準”的“組合拳”，配套的強制性國家標準《網絡安全技術人工智能生成合成內容標識方法》也于昨天同步施行。該標準針對人工智能生成合成標識的技術實現方式給出了更加細致、精準的指引，并配以具體的實現范例。例如視頻內容顯式標識要求，文字提示高度不低于畫面最短邊的5%，持續(xù)時間不少于2秒等。

“這有助于相關行業(yè)各主體采取相應的技術措施、全面準確落實內容標識義務，并實現標識技術的標準化，提高互認程度，降低由于標準不統一帶來的合規(guī)成本?！敝袊鐣茖W院大學互聯網法治研究中心主任劉曉春表示。

整治AI濫用也需防誤傷

AI生成內容，已成當下熱門內容賽道，百度、B站、字節(jié)跳動、快手等，都曾針對生成式AI的創(chuàng)作者提供流量資源扶持、現金補貼等活動。與此同時，AI生成的違規(guī)內容信息也紛至沓來，不少社交賬號利用AI技術造假、博眼球快速“吸粉”起號，批量制造虛假人設，大量推送獵奇、養(yǎng)生、情感等內容，并可通過引流帶貨、賬號轉賣等方式變現。

針對這一新形勢，今年4月開始，中央網信辦開展了為期3個月的“清朗·整治AI技術濫用”專項行動，共攔截清理相關違法違規(guī)信息82萬余條，處置違規(guī)賬號1400余個，下線違規(guī)智能體2700余個。

除了要求以顯著方式主動標識AI生成內容外，多個平臺也發(fā)布公告，重點整治AI生成濫用，其中，利用AI生成低俗獵奇視頻、AI生成虛擬外國幼兒教育專家教授育兒內容、AI生成國際軍事虛假內容等，正成為重點整治對象。

值得注意的是，目前有網絡用戶表示，自己發(fā)布畫作、文章、視頻被“誤傷”，明明是原創(chuàng)內容，卻被平臺誤判為“疑似AI合成”，面臨作品被限流、下架的問題。據悉，目前業(yè)內在AI低質內容治理方面，占比九成以上的審核工作由機器來完成，機器審核準確率難以達到100%，仍需人工不斷校準。

對此，業(yè)內專家建議，未來平臺應完善復核機制，建立便捷、有效的申訴渠道，如有條件，還可在算法識別基礎上引入專家評估機制，綜合判斷內容是否為AI生成。