3月18日，今日頭條舉辦2025 年度平臺治理媒體開放日，發(fā)布《今日頭條2025年度平臺治理白皮書》。
白皮書圍繞網絡詐騙、暴力、水軍、謠言、低質AI內容等核心議題，公布平臺治理行動和成效。數(shù)據(jù)顯示，2025年全年，今日頭條共向用戶推送300余萬條涉詐風險提醒、處置網暴相關違規(guī)評論3.6億條，為70萬賬號啟用了一鍵防網暴功能。
活動現(xiàn)場，今日頭條安全運營和內容治理運營相關負責人，分別做了業(yè)務分享 ，對外傳遞“以安全為底線，以真實為核心”的治理理念。
推送風險提醒 300 余萬條，打擊網騙、網暴、水軍內容
今日頭條安全運營負責人閆夢茹表示，安全是平臺不可逾越的底線，2025 年平臺聚焦反詐、網暴、水軍三大領域，以務實舉措守護用戶安全感。在反詐治理上，平臺構建注冊登錄、行為特征、內容識別、團伙打擊四維全鏈路體系，全年處置涉詐內容 135 萬條、封禁涉詐賬號 18 萬個，推送風險提醒 300 余萬次。此外，平臺通過創(chuàng)新動畫、短劇等科普形式，加大反詐宣傳，提高用戶防范意識。
今日頭條安全運營負責人 閆夢茹
針對網絡暴力與體育 “飯圈” 亂象，平臺建立內容與賬號雙線治理機制，精準識別辱罵攻擊、拉踩引戰(zhàn)內容，分級處置違規(guī)賬號，主動為用戶開啟防護功能，全年處置違規(guī)評論 3.6 億余條，為 70 余萬個賬號啟用一鍵防網暴。平臺同時對網絡水軍堅持零容忍，對團伙化行為特征進行總結、實施階梯式處罰，全年封禁賬號13.9萬個。
中國政法大學網絡法學研究所所長李懷勝在現(xiàn)場指出，網絡詐騙已形成系統(tǒng)化犯罪鏈條，治理需堅持法律引領、多元共治、公眾參與。其中，提高公眾參與度是反詐的重要一環(huán)。“今日頭條的平臺治理報告中有兩組數(shù)據(jù)值得深思：一是平臺通過私信對高危風險進行了300余萬條提醒，二是部分用戶對反詐提示存在抵觸情緒。這兩組數(shù)據(jù)恰恰說明，沒有公眾的主動參與，再嚴密的技術防線、再完善的法律制度都可能被突破?！崩顟褎俦硎?。
中國政法大學網絡法學研究所所長李懷勝
實現(xiàn)1小時內存量謠言回掃，持續(xù)提升平臺生態(tài)健康
今日頭條內容治理運營負責人鄭子龍介紹，AIGC 技術普及帶來內容生產便利，也催生低質 AI內容 、虛假謠言批量傳播等問題。過去一年，平臺以 “守護真實” 為核心，強化技術與規(guī)則雙重治理。
內容層面，平臺通過敏捷監(jiān)控聚類發(fā)文和用戶負評等方式不斷挖掘新的低質AI內容特征，持續(xù)迭代管控標準，并反哺模型訓練增強對低質AI問題的識別與處置；在賬號層面，對持續(xù)發(fā)布低質AI內容的作者打壓甚至禁言處罰，同時通過發(fā)布治理公告，引導創(chuàng)作者自覺抵制低質 AI 內容，提升內容創(chuàng)作質量，共同維護健康的網絡生態(tài)。針對低質 AIGC 內容，全年處置相關內容超 260 萬條，對違規(guī)賬號實施流量限制、禁言等處罰。
在網絡謠言治理方面，平臺搭建全鏈路處置體系，依托權威信源比對、大模型識別能力，實現(xiàn) 1 小時內存量謠言回掃清理，全年清理虛假內容 700 余萬條，處置違規(guī)賬號 3.3 萬個。同時，平臺通過 “頭條治序” 科普欄目，持續(xù)提升用戶辨識能力。
今日頭條內容治理運營負責人 鄭子龍
同時，平臺展開創(chuàng)作者認知治理、低成本創(chuàng)作者治理等專項，清退2萬多低質認證作者，嚴厲打擊套路化低質內容和短時高密度發(fā)文行為，處置60多萬投機賬號。
中國社會科學院大學互聯(lián)網法治研究中心主任劉曉春認為，低質 AI 內容治理需明確標準、技術賦能、多方協(xié)同。平臺應完善 AI 內容標識與審核機制，強化技術檢測與創(chuàng)作者引導，推動形成監(jiān)管、平臺、用戶共治格局，從源頭遏制虛假誤導內容蔓延。
中國社會科學院大學互聯(lián)網法治研究中心主任劉曉春
持續(xù)打擊網絡黑灰產，保護用戶權益、推動生態(tài)向好
作為通用信息分發(fā)與創(chuàng)作平臺，內容安全與內容生態(tài)是今日頭條的核心組成部分?；顒蝇F(xiàn)場，今日頭條安全運營負責人閆夢茹、內容治理運營負責人鄭子龍，就如何提升用戶防范意識、虛假謠言治理核心機制等關鍵問題作出詳細解答。
閆夢茹介紹，當平臺監(jiān)測到網絡詐騙等相關風險時，會通過私信提醒方式警示用戶，“若平臺在對話框中提示‘該對話可能涉及交易轉賬、個人隱私等敏感信息，謹防詐騙、遵守國家法律法規(guī)’等內容，請用戶務必高度關注相關風險，提高警惕?！?/p>
“生態(tài)治理同樣也離不開公眾的參與，提高用戶對于生態(tài)治理的認知對構建一個健康、多元、清朗的平臺生態(tài)非常重要?！编嵶育埍硎尽?/p>
2025 年，今日頭條通過系列專項行動、技術升級、規(guī)則完善和生態(tài)治理，持續(xù)打擊網絡黑灰產、清理不良信息、保護用戶權益，推動平臺生態(tài)不斷向好。治理沒有終點，用戶的安全感與對優(yōu)質內容的期待，是平臺持續(xù)前行的動力。
