一、引言
在游戲中，如何確保包括青少年在內(nèi)的用戶處于一個(gè)安全環(huán)境中，一直是玩家大量聚集的集“社交”、“娛樂”、“競(jìng)技”等于一身的多類型游戲產(chǎn)品的關(guān)注點(diǎn)。
成立于2016年的金山世游，先后在國(guó)內(nèi)發(fā)行了《反恐行動(dòng)》、《小米槍戰(zhàn)》多款I(lǐng)P手游，堅(jiān)持創(chuàng)造一個(gè)公平、文明、有序的游戲環(huán)境，讓用戶遠(yuǎn)離不良價(jià)值觀。
過去，金山世游通過“屏蔽詞庫(kù)”來(lái)進(jìn)行監(jiān)測(cè)和治理不法行為。玩家也主動(dòng)加入內(nèi)容巡檢隊(duì)伍。如果看到一些不恰當(dāng)、引起不適的內(nèi)容，玩家可以在游戲中進(jìn)行舉報(bào)與投訴。金山世游收到投訴后，及時(shí)把違規(guī)內(nèi)容處理掉。
游戲內(nèi)外齊心協(xié)力，但受限于詞庫(kù)更新頻率和網(wǎng)絡(luò)上不斷出現(xiàn)的新型聊天“語(yǔ)言”和“敏感詞”，給主動(dòng)監(jiān)測(cè)治理提出更大挑戰(zhàn)。
2021年，金山世游向聊天室內(nèi)的違規(guī)語(yǔ)言發(fā)起了新一輪的監(jiān)管總攻。這次，金山世游與網(wǎng)易易盾合作，在內(nèi)容風(fēng)控服務(wù)上獲取定制的智能策略，基于自身的海量數(shù)據(jù)和全新需求，實(shí)現(xiàn)全產(chǎn)品服務(wù)和平臺(tái)的內(nèi)容安全保障。
如今，經(jīng)過近一年的運(yùn)營(yíng)，游戲內(nèi)違規(guī)內(nèi)容處理更主動(dòng)了，公司內(nèi)容風(fēng)控體系實(shí)現(xiàn)了全面提升。一個(gè)最直觀的感受是，玩家投訴率直線下降，玩家好評(píng)度顯著提升。
金山世游說：
我們更愿意把‘內(nèi)容安全’當(dāng)做企業(yè)的責(zé)任、使命和動(dòng)力。我們相信，經(jīng)過金山世游內(nèi)部專業(yè)審核體系和易盾內(nèi)容風(fēng)控體系的雙重加持，我們一定會(huì)在全面符合相關(guān)要求和標(biāo)準(zhǔn)的基礎(chǔ)上，進(jìn)一步探索更加適合自身的運(yùn)營(yíng)方式，為整個(gè)行業(yè)在內(nèi)容風(fēng)控體系中探索更多答案。
極度社交化的多人游戲炙手可熱，在對(duì)話中促進(jìn)了玩家溝通，給了玩家提供了一個(gè)表達(dá)自我的平臺(tái)，而言語(yǔ)不當(dāng)行為的增加也給游戲增加了合規(guī)風(fēng)險(xiǎn)。
近年來(lái)，國(guó)家相關(guān)主管部門相繼出臺(tái)《網(wǎng)絡(luò)安全法》《未成年人保護(hù)法》《關(guān)于防止未成年人沉迷網(wǎng)絡(luò)游戲通知》等諸多相關(guān)法規(guī)和政策，對(duì)行業(yè)發(fā)展進(jìn)行進(jìn)一步規(guī)范。
為游戲玩家提供在線內(nèi)容風(fēng)控，比以往任何時(shí)候都更加重要，利用人工智能的進(jìn)步，游戲客戶可以使用全新的“數(shù)字內(nèi)容審核”解決方案來(lái)確保在線游戲的內(nèi)容安全。
二、如何讓聊天文本更安全？
金山世游集游戲研發(fā)、全球發(fā)行運(yùn)營(yíng)、游戲投資等業(yè)務(wù)于一體，從成立之初就確立了不斷強(qiáng)化自研，成功推出了《反恐行動(dòng)》、《三國(guó)戰(zhàn)神》、《西游降魔篇3D》、《小米槍戰(zhàn)》等自研產(chǎn)品，同時(shí)高效運(yùn)營(yíng)諸如《魔域手游》、《最終幻想：勇氣啟示錄》、《風(fēng)暴魔域2》等IP大作。
公司自研及運(yùn)營(yíng)游戲產(chǎn)品涵蓋MMO、MOBA、FPS、卡牌、二次元、SLG、音舞等眾多領(lǐng)域，業(yè)務(wù)范圍輻射至海外多個(gè)國(guó)家，用戶規(guī)模達(dá)到“現(xiàn)象級(jí)”增長(zhǎng)。
不同類型的游戲產(chǎn)品吸引了多元化的玩家群體。這也使得用戶數(shù)量、年齡層次、地區(qū)分布、文化水平等出現(xiàn)差異化，內(nèi)容風(fēng)控就顯得格外重要，甚至可以說是游戲平臺(tái)的“生命線”。
金山世游將內(nèi)容風(fēng)控視為"不可逾越的高壓線"，作為一家有責(zé)任感的游戲企業(yè)，營(yíng)造良好的內(nèi)容生態(tài)，既是對(duì)自身產(chǎn)品負(fù)責(zé)、對(duì)廣大玩家負(fù)責(zé)，也是對(duì)全社會(huì)負(fù)責(zé)，才能真正為玩家?guī)?lái)歡樂。
每個(gè)月，團(tuán)隊(duì)都會(huì)花費(fèi)大量時(shí)間在游戲運(yùn)營(yíng)中，對(duì)內(nèi)容數(shù)據(jù)進(jìn)行處理與分析，反復(fù)檢查相關(guān)數(shù)據(jù)，耗費(fèi)的精力與返工的時(shí)間大大增加。
在選用易盾前，金山世游通過屏蔽詞庫(kù)來(lái)進(jìn)行監(jiān)測(cè)和治理，但受限于詞庫(kù)更新頻率和網(wǎng)絡(luò)上不斷出現(xiàn)的新型聊天“語(yǔ)言”和“敏感詞”，給主動(dòng)監(jiān)測(cè)治理帶來(lái)很大難度。玩家曾出現(xiàn)利用“火星文”“暗語(yǔ)”“代號(hào)”等發(fā)布信息，給內(nèi)容監(jiān)測(cè)鑒別工作帶來(lái)較大難題。
圖| 聊天室等社交方式為游戲業(yè)務(wù)打開增長(zhǎng)空間
三、給用戶提供一種更快、更安全的選擇
“經(jīng)過對(duì)幾家頭部公司進(jìn)行實(shí)際調(diào)研和產(chǎn)品功能對(duì)比，以及相關(guān)機(jī)構(gòu)口碑推薦，我們通過實(shí)測(cè)和自身業(yè)務(wù)需求匹配，最后選擇了和易盾進(jìn)行合作?！苯鹕绞烙伪硎尽?/p>
在合作中，金山游戲全部游戲產(chǎn)品均使用了易盾數(shù)字內(nèi)容風(fēng)控體系。在易盾數(shù)字內(nèi)容風(fēng)控體系加持下，這些不同類型的游戲在內(nèi)容治理方面都取得了明顯成效。
以公司老牌的自研FPS游戲《反恐行動(dòng)》為例，由于槍戰(zhàn)題材和高競(jìng)技屬性，玩家溝通意愿熱烈且溝通頻率高。這就對(duì)游戲內(nèi)部的內(nèi)容安全監(jiān)控系統(tǒng)提出了很高的要求。
在易盾數(shù)字內(nèi)容風(fēng)控體系的助力下，內(nèi)容風(fēng)控系統(tǒng)監(jiān)測(cè)范圍大幅提升，涵蓋涉政暴恐、色情、廣告、辱罵、注水、迷信、低俗、詐騙、賭博、火星文、擦邊球等上百類數(shù)據(jù)。系統(tǒng)處置速度大大提升，系統(tǒng)內(nèi)監(jiān)測(cè)庫(kù)保持實(shí)施更新，也確保新近違規(guī)內(nèi)容得以第一時(shí)間得到監(jiān)控和處置。
四、自建審核“鐵軍”，用好AI內(nèi)容風(fēng)控工具
公司在技術(shù)和執(zhí)行上始終堅(jiān)持雙高標(biāo)桿，即高標(biāo)準(zhǔn)、高要求，在按照相關(guān)主管部門相關(guān)要求的基礎(chǔ)上，持續(xù)升級(jí)內(nèi)容風(fēng)控體系。
在內(nèi)容審核遍地開花的時(shí)代，金山世游設(shè)立了專門的審核團(tuán)隊(duì)，打造審核“鐵軍團(tuán)”，成員來(lái)自于文字編輯、互聯(lián)網(wǎng)出版、法律法規(guī)等業(yè)界，從內(nèi)容、文化、市場(chǎng)等不同層面對(duì)游戲進(jìn)行全方位的審核和跟蹤。
此外，金山世游在內(nèi)部各產(chǎn)品均設(shè)置了專人專崗，負(fù)責(zé)監(jiān)控產(chǎn)品的內(nèi)容風(fēng)險(xiǎn)點(diǎn)，不斷完善和更新內(nèi)容風(fēng)控資料庫(kù)。為了在根源上杜絕游戲立意環(huán)節(jié)內(nèi)出現(xiàn)違法違規(guī)內(nèi)容，公司還定期對(duì)涉及游戲內(nèi)容及社會(huì)價(jià)值導(dǎo)向的相關(guān)部門和人員進(jìn)行定期培訓(xùn)。
培訓(xùn)內(nèi)容包括如何杜絕出現(xiàn)拜金主義、封建迷信、“娘炮”、“耽美”等不良文化，以及堅(jiān)決抵制有錯(cuò)誤價(jià)值取向、淫穢色情、血腥恐怖等內(nèi)容。
通常，這支“鐵軍團(tuán)”無(wú)處不在，從游戲產(chǎn)品的選題策劃、立項(xiàng)，到研發(fā)、測(cè)試，再到最終出版以及后續(xù)運(yùn)營(yíng)，全方位參與其中。
“我們通過多種方法進(jìn)一步提高員工的內(nèi)容合規(guī)素養(yǎng)，傾力打造一支有文化、高素質(zhì)的團(tuán)隊(duì)，增強(qiáng)把關(guān)意識(shí)，提高把關(guān)能力?！苯鹕绞烙畏窒淼溃?/p>
AI成為審核工具需要人去推動(dòng)和運(yùn)用，如何發(fā)揮出智能內(nèi)容審核系統(tǒng)的潛力，也是我們風(fēng)控“鐵軍”的職責(zé)。下一步，金山世游希望AI智能可以提供更強(qiáng)大的支持，加上人工干預(yù)，讓內(nèi)容風(fēng)控更具靈活性與創(chuàng)新性。
