近期，抖音平臺公布了其2025年第一季度針對黑色產(chǎn)業(yè)鏈的打擊成果，揭示了AI技術(shù)在提升治理效率方面的顯著作用。
自2025年起，抖音不斷強化對黑產(chǎn)的打擊力度，尤其在AI技術(shù)的加持下，平臺在識別、預(yù)警和處理違規(guī)場景上的能力得到了質(zhì)的飛躍。第一季度，抖音成功封禁了與水軍、欺詐和違規(guī)導流相關(guān)的黑產(chǎn)賬號共計260萬個，并將涉嫌違法的線索移送至相關(guān)部門。
在AI智能體的搭建上，抖音風險治理團隊依托大模型技術(shù)，構(gòu)建了從風險感知到智能決策再到閉環(huán)處置的全方位治理體系。這一體系使得單個案例的處理時間縮短至秒級，整體準確率超過85%。特別是在網(wǎng)絡(luò)水軍的治理上，AI技術(shù)的應(yīng)用實現(xiàn)了線上自動運營，將巡檢效率提升了10倍以上。在試運行期間，平臺日均攔截違規(guī)請求6000萬次，封禁水軍賬號超過20萬個。
面對不斷升級的詐騙手段，抖音也加強了用戶的安全提醒。本季度，仿冒抖音客服的詐騙行為持續(xù)演變，抖音通過在多個產(chǎn)品頁面增加反詐提醒，并升級“驗證助手”工具，日均保護潛在受害人5萬名。同時，平臺還針對虛假人設(shè)和交易導流詐騙進行了重點打擊，提醒用戶不要輕信陌生人邀請至第三方平臺的信息，并加強了對小眾聊天場景下詐騙問題的防范。
為了進一步完善反詐機制，抖音在一季度優(yōu)化了多個場景的安全模型，包括仿冒、購物、刷單和交友等。針對殺豬盤、色情導流交易等高危場景，平臺加大了短信和電話外呼的用戶提醒力度，自2025年以來，已封禁欺詐相關(guān)賬號140萬個，每日下發(fā)反詐提醒短信超過80萬條，撥打反詐預(yù)警電話近17萬次。
在違規(guī)導流的治理上，抖音面對的是多鏈路手段的挑戰(zhàn)。黑產(chǎn)團伙利用多個賬號在多個場景進行配合操作，使得平臺需要精準定位和分析整個鏈路上的違規(guī)信息。為了解決這一難題，抖音搭建了多賬號長鏈路的風險識別體系，從事前、事中、事后等多個環(huán)節(jié)切斷黑產(chǎn)賬號之間的聯(lián)系，并結(jié)合大模型的優(yōu)勢自動梳理黑產(chǎn)鏈路的關(guān)鍵證據(jù)。這一舉措使得站內(nèi)相關(guān)違規(guī)的舉報量下降了73.3%，封禁導流違規(guī)賬號近100萬個，處置違規(guī)視頻內(nèi)容745萬條。
抖音還將相關(guān)線索上報至相關(guān)部門，配合打擊違規(guī)導流團伙，展現(xiàn)了平臺在維護網(wǎng)絡(luò)安全方面的決心和行動力。
