21世紀經濟報道記者肖瀟 北京報道

《哪吒2》員工愿意996是因為公司在成都分房、梁文峰在知乎上首次回應DeepSeek走紅、80后死亡率突破5.2%……類似的信息正在占領互聯網。它們看起來有精確的細節，但沒有信息來源，仔細搜索后還有明顯事實錯誤。不少此類內容，被指出由AI生成。

針對未標識的“AI謠言”，3月11日微博宣布啟動治理。微博社區治理官方賬號發文稱，治理的重點領域是社會民生、突發事件、科普醫療和個人權益，會對不同情況予以處置。

具體而言，如果賬號的單條內容由 AI 生成且未主動標識，微博稱會主動打標，提示“疑似由 AI 生成”；如果賬號有多條AI內容都未標識，會限制流量分發；如果這些內容造成了惡劣影響，則可以禁言乃至封號。

21記者在3月12日核查，目前要加上AI標識，微博用戶需點擊內容發布頁右下角的“公開”權限，增加“內容聲明”，選擇“內容由AI生成”。發布后，該微博的時間欄會新增“AI生成”狀態框。

AI謠言泛濫的問題不止微博一家碰到。今日頭條在近期的治理開放日透露了一組數據：去年打壓了超過93萬條低質AI內容，處罰了近3萬個利用AI批量發布虛假、低質內容或惡意洗稿、抄襲的賬號。

“我們能夠非常直觀地看到，AI技術對內容平臺是一把雙刃劍。對于創作者來說，AI可以豐富內容多樣性，我們也在工作、生活等各種場合開始嘗試用AI工具減負增效；但很多用戶對新技術掌握不夠充分，產出的內容也給站內生態帶來了問題，包括濫用AI生產的劣質空洞內容、利用AI洗稿侵犯他人著作權等等。這些問題既損害了用戶體驗，又擠壓了優秀原創作者的流量，嚴重損害了創作的公平性。” 該平臺一位負責人稱，過去一年里，AI內容給平臺帶來了很大挑戰。

該負責人指出，低質AI內容的典型特征是內容空洞、前后矛盾。與微博的舉措類似，今日頭條在收嚴對低質AI內容的審核力度，另外監測AI內容的整體流量占比，“評估處一個相對健康的水位，確保原創作者的空間，同時接納合理的AI內容的存在。”

但前述負責人也在會上坦言，過去的治理重點是“用戶能明顯感知到的低質AI內容”，現在批量生產、難辨真假的AI內容成為新的挑戰。

近一年里，已經有不少“AI內容農場”產業鏈曝光。2024年4月，陜西西安警方公布了一起AI造謠案件：涉案人員通過“翠綠筆墨”AI寫作軟件，將熱門社會新聞重新拼湊、替換同義詞，并批量生成內容，日均產量高達19萬篇，流向6000多個自媒體賬號，以獲取平臺流量分成。

2024年1月，南昌一家MCN機構因編造“西安爆炸”事件遭到警方調查。警方評估顯示，負責人一共經營了5家MCN機構，運營賬號842個，一天能AI生成4000-7000篇文章，全程基本不需要人工參與。經初步的估算，每天的收入在1萬元以上。

科技自媒體博主阮一峰曾核算使用某國產大模型API批量生成文章的成本，一篇AI文章的成本是人民幣0.00138元，也就是一分錢可以生成七篇文章。AI的成本之低、生產能力之強，再綁定流量變現的吸引力，可以通過“量大管飽”的方式迅速沖擊互聯網內容生態。

為AI內容加標識，是目前解決“深度偽造”“信息污染”等問題的主要措施之一，也是國內監管機構著力推進的方向。2023年8月開始實施的《生成式人工智能服務管理暫行辦法》要求，AI服務提供者對圖片、視頻等內容進行標識。2024年9月，《人工智能生成合成內容標識辦法(征求意見稿)》進一步要求，不僅是AI提供者，社交傳播平臺也需要添加明顯的AI標識，區別AI內容和真實內容。

除了微博，抖音、快手、微信、小紅書、嗶哩嗶哩六家國內日活量最大的社交平臺，都已要求用戶在上傳內容時聲明是否由AI生成。但21記者在年初時測試發現，平臺里許多明顯的AI內容并沒有相應標識，實際執行效果不盡人意。微博此次指出，現在的治理難點是技術手段有限、法律滯后、公眾認知分歧。接下來，計劃結合AI檢測、人工審核與用戶舉報機制，加強對未標識AI內容的主動識別。

今年2月，網信辦發布2025年“清朗”系列專項行動通知，指出今年的重點會是整治AI技術濫用亂象，強化生成合成內容標識，打擊借AI技術生成發布虛假信息、實施網絡水軍行為等問題。