針對AI生成內容使用亂象，2025年9月1日《人工智能生成合成內容標識辦法》施行，明確AI生成內容必須添加標識。如今新規(guī)落地已過百日，盡管各大平臺陸續(xù)上線標識功能并配套相應管理措施，但記者調查發(fā)現(xiàn)，短視頻、圖文筆記、直播間，仍有許多AI內容未亮明身份，甚至一些原本顯性的違規(guī)行為逐漸轉向暗箱操作，深度偽造技術與黑灰產(chǎn)結合愈發(fā)緊密……

由于AI生成合成工具使用門檻低，而且生成結果讓人難辨真?zhèn)?，某些人就利用AI生成內容誤導公眾，所以，《人工智能生成合成內容標識辦法》要求AI生成內容必須添加標識很有必要，解決了以往AI內容“難識別、難追溯”這一痛點，對于維護消費者知情權等至關重要。然而，新規(guī)早已生效，但許多AI內容仍未添加標識，而且各種“反標識”亂象叢生，導致短視頻等內容真假難辨、泥沙俱下。

所謂“反標識”，是指網(wǎng)上出現(xiàn)一些“去水印”“無痕除標識”的基礎工具，這類工具可以抹去AI內容上的標識。還有一些定制服務可繞過平臺檢測。這不僅在消解上述新規(guī)落地成效，也增加了平臺治理成本，還助長更多人利用AI工具造假。據(jù)悉，“反標識”技術正從單一手段向“多元技術路線與商業(yè)模式并行”的完整產(chǎn)業(yè)鏈形態(tài)升級，催生出標識“露而不顯”等AI仿造亂象，這給治理提出了挑戰(zhàn)。

之所以出現(xiàn)“反標識”亂象，其一，一些需求者通過“去水印”、規(guī)避平臺檢測來謀取利益，比如為了引流、賣貨、詐騙。其二，不法商家通過提供各種偽造工具和規(guī)避檢測服務來獲利。其三，不同平臺標識規(guī)則有差異，給了違規(guī)者跨平臺“作案”機會。其四，部分平臺檢測核驗技術不完善，很難識別AI仿造內容。另外，現(xiàn)有法規(guī)缺乏針對未標識、惡意篡改標識等行為的具體罰則，違規(guī)者無所畏懼。

因此，要想落實AI內容添加標識的規(guī)定，必須先對“反標識”亂象進行整治。對此，有關人士給出了整治建議：完善“不可篡改、全程可溯”技術硬屏障；厘清“生成、傳播、使用”權責邊界；構建“政府、公眾、平臺”治理閉環(huán)。由此看來，既需要相關各方各盡其責，也需要協(xié)同治理。在筆者看來，治理關鍵在于平臺能否扛起責任，具體來說，既需要AI生成平臺落實責任也需要內容傳播平臺盡責。

作為AI生成平臺，應該按照相關規(guī)定要求，讓每次AI生成合成內容都帶有無法輕易抹去的顯式標識和隱式標識，爭取不給違規(guī)者去除顯式標識、篡改隱式標識的機會。從運營短視頻、圖文筆記、直播間的平臺角度來說，必須提升檢測、識別AI合成內容，“去水印”作品等技術能力。同時，還需要這兩類平臺建立共享、協(xié)作機制，即凡是AI生成平臺出來的所有作品，都能被內容傳播平臺精準識別到。

為了促使平臺履職盡責，應該對上述兩類平臺加強監(jiān)管，凡是沒有落實AI內容標識管理責任的平臺，輕則約談督促其進行整改，重則依據(jù)現(xiàn)有相關法規(guī)進行處罰。同時，還應該鼓勵公眾舉報AI內容無標識、AI內容造假等問題，通過依靠群眾監(jiān)督力量，來彌補平臺技術不足、監(jiān)管力量不足。總之，AI生成合成技術為我們帶來便利性和豐富性，但也要多措并舉嚴防這類技術演變成一種“造假神器”。