作為電競(jìng)陪練行業(yè)領(lǐng)軍者,“比心陪練”對(duì)平臺(tái)違規(guī)內(nèi)容“零容忍”,對(duì)違法操作“出重拳”。為此,比心正不斷升級(jí)風(fēng)控系統(tǒng)提高監(jiān)管級(jí)別,與網(wǎng)易易盾一道共建清朗的電競(jìng)陪練機(jī)制,以更創(chuàng)新的形式正面引導(dǎo)青年人,共同營(yíng)造及維護(hù)互聯(lián)網(wǎng)生態(tài)的綠色健康發(fā)展。
自2017年以來(lái),易盾持續(xù)為“比心陪練”提供智能內(nèi)容檢測(cè)服務(wù),通過(guò)深度學(xué)習(xí)技術(shù),智能守護(hù)圖文、音頻與視頻全媒體類型的UGC內(nèi)容,從”用戶注冊(cè)“環(huán)節(jié)起跟蹤問(wèn)題團(tuán)伙,多管齊下一舉掃除有害內(nèi)容,從而滿足了6000萬(wàn)人大型UGC社區(qū)的數(shù)字內(nèi)容風(fēng)控需求,給全國(guó)玩家一顆“定心丸”。
? 客戶介紹 ?
文娛社交平臺(tái)“比心陪練”APP推出至今7年有余,集結(jié)了線上、線下超6000萬(wàn)玩家,主打游戲陪練、聲優(yōu)陪聊、手繪陪練、英語(yǔ)陪練等功能,已建立起音頻、視頻、MSN等立體化多業(yè)務(wù)場(chǎng)景。
“比心陪練”的發(fā)展速度與游戲行業(yè)一樣快,先后獲得網(wǎng)魚(yú)網(wǎng)咖、IDG資本投資,常年穩(wěn)定在應(yīng)用暢銷榜前30名的位置,成為耳熟能詳?shù)挠螒蚺憔殹邦^號(hào)玩家”。
游戲陪練作為一項(xiàng)新興職業(yè),讓一眾“斜杠青年”通過(guò)游戲技能獲取報(bào)酬,正在成為不可小覷的隱形就業(yè)趨勢(shì)。通過(guò)平臺(tái)與職業(yè)資格計(jì)劃,“比心陪練”為年輕人憑借興趣變現(xiàn)鋪平了道路。
截至2020年,比心陪練累計(jì)為技能分享者創(chuàng)造收入超200億元,注冊(cè)陪練師超700萬(wàn)人,全職游戲陪練平均月收入達(dá)到7905元。
? 風(fēng)控挑戰(zhàn) ?
在線文娛有其自身面對(duì)的挑戰(zhàn),例如聊天中隱晦性暗示或主播在直播中裸露。在平臺(tái)的每一角落,無(wú)論是陪練師還是玩家,無(wú)論是白天還是晚上,都不能出現(xiàn)淫穢色情、暴恐血腥、虛假?gòu)V告、詐騙賭博等信息。
近年來(lái),“比心陪練”維持了高用戶增長(zhǎng)率,更多人來(lái)到陪玩平臺(tái)上生產(chǎn)信息與內(nèi)容,給社區(qū)、私聊、直播等板塊的規(guī)范帶來(lái)挑戰(zhàn)。對(duì)于一家集社交與游戲陪練于一體的公司來(lái)說(shuō),如何為用戶提供一個(gè)健康安全、專業(yè)積極的交流環(huán)境,顯然是個(gè)挑戰(zhàn)。
挑戰(zhàn)1:反欺詐
不時(shí)出現(xiàn)在平臺(tái)的社區(qū)、直播、私聊信息中的引流信息,無(wú)疑增加了用戶被打擾,甚至被詐騙的風(fēng)險(xiǎn),這是“比心陪練”最不愿看到的。為此,“比心陪練”計(jì)劃拎出一批黑產(chǎn)風(fēng)險(xiǎn)賬號(hào)終結(jié)“貓鼠游戲”。
挑戰(zhàn)2:內(nèi)容質(zhì)量運(yùn)營(yíng)
“比心陪練”是一個(gè)以電競(jìng)為核心的多元化內(nèi)容社區(qū),具備論壇、視頻、直播三大入口?！氨刃呐憔殹北兄鴮I(yè)和友善的電競(jìng)精神,堅(jiān)決抵制庸俗低俗、侵權(quán)假冒、造謠傳謠、標(biāo)題黨等違規(guī)賬號(hào),及時(shí)掃報(bào)復(fù)性謾罵、無(wú)意義灌水、商業(yè)廣告等刷屏內(nèi)容。
挑戰(zhàn)3:違規(guī)內(nèi)容識(shí)別
“黃、暴、政"內(nèi)容風(fēng)險(xiǎn)危及平臺(tái)的可持續(xù)運(yùn)營(yíng)。自成立以來(lái),“比心陪練”就將內(nèi)容審核視作必不可缺的一環(huán),通過(guò)各種舉措盡可能降低平臺(tái)風(fēng)險(xiǎn)。
圖 | 色情低俗內(nèi)容風(fēng)險(xiǎn)
比心自建了多達(dá)400人的人工審核團(tuán)隊(duì)全天候在線,形成了風(fēng)控、審核、舉報(bào)、懲罰四位一體機(jī)制。為了更高效的審核,團(tuán)隊(duì)考慮引入成熟的人工智能內(nèi)容檢測(cè)技術(shù),克服惡意違規(guī)內(nèi)容的對(duì)抗行為,實(shí)時(shí)發(fā)現(xiàn)與定期質(zhì)檢。因此,高強(qiáng)度的內(nèi)容審核與惡意用戶發(fā)現(xiàn)顯得尤為重要。
面對(duì)用戶保護(hù)和平臺(tái)責(zé)任的初衷,“比心陪練”亟需一套經(jīng)濟(jì)高效、易于維護(hù)的系統(tǒng)化內(nèi)容風(fēng)控方案,使人審團(tuán)隊(duì)更靈活應(yīng)對(duì)使用高峰,以對(duì)海量UGC內(nèi)容進(jìn)行實(shí)時(shí)、全面的綜合檢索梳理。
?解決方案?
“比心陪練”的各項(xiàng)內(nèi)容生態(tài)治理需求得到了回應(yīng)。經(jīng)過(guò)評(píng)估,比心選擇了網(wǎng)易易盾的機(jī)器審核解決方案,以簡(jiǎn)化管理直播、私聊、社區(qū)等生態(tài)內(nèi)容,提高了可靠性和即時(shí)性。
#1 在毫秒內(nèi)發(fā)現(xiàn)多種內(nèi)容風(fēng)險(xiǎn)
從內(nèi)容源頭出發(fā),易盾持續(xù)快速迭代敏感詞庫(kù)、策略規(guī)則組合、語(yǔ)義模型,支持游戲陪練語(yǔ)境下的自定義信息預(yù)警與放過(guò),建立靈活有度的內(nèi)容管理模式。
第一,監(jiān)控直播、私聊、社區(qū)等場(chǎng)景下出現(xiàn)的“黃、暴、政”等有害違規(guī)內(nèi)容,讓平臺(tái)避免觸及監(jiān)管“紅線”;
第二,攔截在廣告引流信息中的詐騙話術(shù),有效抑制詐騙發(fā)案,保護(hù)每一位社區(qū)用戶的權(quán)益;
第三,杜絕虛假訂單、競(jìng)對(duì)挖人等情況發(fā)生,避免給用戶與平臺(tái)造成資金損失;
第四,嚴(yán)禁謾罵、人身攻擊、無(wú)意義灌水等不文明行為,維護(hù)社區(qū)秩序。
#2 利用算法迭代 “道高一丈”
黑產(chǎn)和平臺(tái)的對(duì)抗從未停止。在娛樂(lè)社交平臺(tái)中,黑產(chǎn)入侵從內(nèi)容開(kāi)始,在美女圖片中隱藏著手機(jī)號(hào)、文字、二維碼,以此吸引大量的潛在受害者。
在遭遇封禁后,黑產(chǎn)通過(guò)各種方式躲避平臺(tái)的檢測(cè),對(duì)文字進(jìn)行虛化處理、語(yǔ)義化處理、涂抹二維碼等技術(shù)博弈,在平臺(tái)上演了一輪輪“貓鼠游戲”。
這些狡猾的手段,讓數(shù)字內(nèi)容風(fēng)控變成了大數(shù)據(jù)、技術(shù)層面的攻防戰(zhàn)。如何實(shí)時(shí)識(shí)別新型不合規(guī)內(nèi)容成為內(nèi)容檢測(cè)的必備項(xiàng)目。借助于易盾快速迭代的內(nèi)容審核算法,“比心陪練”比以前更快地發(fā)現(xiàn)網(wǎng)絡(luò)黑產(chǎn)的層層陷阱。
在與黑產(chǎn)對(duì)抗過(guò)程中,易盾研發(fā)了垃圾廣告模型、二維碼檢測(cè)模型、面向UGC場(chǎng)景的OCR模型等多種技術(shù)能力,利用小樣本訓(xùn)練、特征檢索、相似聚類等方法反復(fù)圍剿黑產(chǎn)樣本,針對(duì)風(fēng)險(xiǎn)內(nèi)容變種不斷提升算法模型的識(shí)別效果。
#3 用戶風(fēng)險(xiǎn)等級(jí)輸出
結(jié)合易盾的數(shù)據(jù)挖掘與定制策略能力,比心建立起一套用戶風(fēng)險(xiǎn)管理機(jī)制,對(duì)問(wèn)題賬戶進(jìn)行限流、封殺處理,精準(zhǔn)狙擊進(jìn)化的黑產(chǎn)。
易盾研發(fā)了一套風(fēng)險(xiǎn)賬戶識(shí)別策略模型,以用戶為關(guān)系節(jié)點(diǎn),融合頭像、昵稱、IM內(nèi)容、行為特點(diǎn)、設(shè)備資源等多種特征庫(kù),通過(guò)不同維度信息之間的綜合決策,發(fā)現(xiàn)內(nèi)容、設(shè)備、行為上的相似性,鑒別用戶的風(fēng)險(xiǎn)等級(jí),交由比心再次核驗(yàn)。
針對(duì)帶對(duì)抗性的詐騙引流行為,“比心陪練” 小心求證,基于易盾的風(fēng)險(xiǎn)等級(jí)進(jìn)行認(rèn)定,在注冊(cè)環(huán)節(jié)就攔下黑產(chǎn)賬號(hào),提前對(duì)風(fēng)險(xiǎn)內(nèi)容生產(chǎn)者進(jìn)行“鎖喉”,奪回了內(nèi)容風(fēng)控的自主權(quán)。
#4 審核邏輯更貼近業(yè)務(wù)
以語(yǔ)音檢測(cè)為例,易盾為比心提供“自然語(yǔ)意斷句”與“固定時(shí)間切片”多種審核方式,最大程度降低客戶的開(kāi)發(fā)成本。
在“比心陪練”,百人團(tuán)隊(duì)就可以管控億萬(wàn)條UGC信息,因?yàn)槿斯徍藛T不必花時(shí)間過(guò)目每一條內(nèi)容,只需要集中注意力在機(jī)器反饋的嫌疑數(shù)據(jù),滿足7×24小時(shí)內(nèi)容精準(zhǔn)審核。
“比心陪練”使用易盾獨(dú)立研發(fā)的后臺(tái)進(jìn)行風(fēng)控策略的編排和部署,審核工作全程可溯源追蹤,可以更輕松地管理智能內(nèi)容檢測(cè)服務(wù),以應(yīng)對(duì)內(nèi)容創(chuàng)作高峰。
?使用效果?
“比心陪練”變得更加敏捷,能夠游刃有余地對(duì)抗迅速升級(jí)的內(nèi)容風(fēng)險(xiǎn),通過(guò)大數(shù)據(jù)和人機(jī)識(shí)別技術(shù),審核團(tuán)隊(duì)掃除了隱藏在內(nèi)容生態(tài)與海量用戶中的風(fēng)險(xiǎn)。
2020年,網(wǎng)易易盾助力“比心陪練”檢測(cè)近50億條風(fēng)險(xiǎn)內(nèi)容,發(fā)現(xiàn)上千萬(wàn)條高風(fēng)險(xiǎn)內(nèi)容,其中廣告、色情、暴恐是社區(qū)的前三大內(nèi)容風(fēng)險(xiǎn)。經(jīng)客戶驗(yàn)證后,風(fēng)險(xiǎn)用戶命中準(zhǔn)確率達(dá)到93%以上。
在服務(wù)期間,網(wǎng)易易盾為“比心陪練”提供定期質(zhì)檢、優(yōu)化建議與內(nèi)容生態(tài)維護(hù)報(bào)告,全景展示來(lái)自于各個(gè)場(chǎng)景、各種類型文件的內(nèi)容風(fēng)險(xiǎn)。智能內(nèi)容安全系統(tǒng)始終工作,為“比心陪練”減少迭代和測(cè)試模型的時(shí)間與成本,持續(xù)保障電競(jìng)陪練業(yè)務(wù)的穩(wěn)步健康開(kāi)展。
隨著“凈網(wǎng)”行動(dòng)的推進(jìn),“監(jiān)管治理違規(guī)內(nèi)容”的主體監(jiān)管責(zé)任喚起了互聯(lián)網(wǎng)平臺(tái)的共鳴。易盾的“智能內(nèi)容檢測(cè)解決方案”與此不謀而合,荔枝、探探、小咖秀、Soul、草莓聊等頭部娛樂(lè)社交公司得以通過(guò)技術(shù)手段,對(duì)多媒體內(nèi)容進(jìn)行全方位審核,對(duì)平臺(tái)內(nèi)用戶行為進(jìn)行全路徑監(jiān)督,與業(yè)務(wù)深度結(jié)合落實(shí)風(fēng)控實(shí)踐。
未來(lái),易盾也將攜手更多平臺(tái),探索數(shù)字內(nèi)容風(fēng)控技術(shù)的多樣實(shí)踐路徑,為企業(yè)提供安全、高效及便捷的數(shù)字內(nèi)容風(fēng)控體驗(yàn),共同構(gòu)建一個(gè)可持續(xù)發(fā)展的健康網(wǎng)絡(luò)環(huán)境。
