近日，為推動信息技術(shù)助力網(wǎng)絡(luò)生態(tài)治理，解決當(dāng)前技術(shù)落地面臨的突出問題，中國信通院云大所牽頭，依托中國通信標(biāo)準(zhǔn)化協(xié)會（CCSA）TC602網(wǎng)絡(luò)治理能力工作組，圍繞商用網(wǎng)絡(luò)信息監(jiān)測分析服務(wù)（輿情分析）、內(nèi)容治理組織了系列研討活動。數(shù)美科技作為一家在內(nèi)容風(fēng)險識別領(lǐng)域擁有六年研究積淀的企業(yè)，受邀參加此次會議，與各企業(yè)專家就議題進行探討。
一、研討商用網(wǎng)絡(luò)信息監(jiān)測分析服務(wù)可信評估規(guī)范
為解決當(dāng)前商用網(wǎng)絡(luò)信息監(jiān)測分析服務(wù)市場上存在的行業(yè)門檻低、魚龍混雜、信息數(shù)據(jù)安全意識薄弱等問題。本月初，中國信通院召開了標(biāo)準(zhǔn)編寫的啟動會，根據(jù)啟動會上形成的編寫思路，工作組完成了可信商用網(wǎng)絡(luò)信息監(jiān)測分析服務(wù)評估規(guī)范（以下簡稱“規(guī)范”）初稿。研討會上，專家們首先明確了規(guī)范的意義和對產(chǎn)業(yè)發(fā)展的重要性，肯定了規(guī)范的可行性，討論并通過了整體編寫思路。同時，專家還對規(guī)范中關(guān)于信息分析、信息存儲等具體指標(biāo)項提出了修改意見。
二、討論內(nèi)容治理標(biāo)簽體系
中國信通院自2019年起，參照網(wǎng)絡(luò)治理能力標(biāo)準(zhǔn)體系，對當(dāng)前市場上的有害內(nèi)容識別檢測服務(wù)開展了三批測評。
當(dāng)前，內(nèi)容治理服務(wù)提供商主要是通過訓(xùn)練審核模型，再通過審核模型審核傳入的數(shù)據(jù)的方式，開展的內(nèi)容治理工作。但由于用戶的需求不同，且市場上缺乏統(tǒng)一的數(shù)據(jù)標(biāo)簽標(biāo)準(zhǔn)，因此，用戶在選型過程中會存在一定的困惑；服務(wù)商在制定內(nèi)部標(biāo)簽的時候也會存在一定程度上的困難。
在此背景下，工作組根據(jù)前期調(diào)研的情況，初步編寫了圖片、視頻、音頻和文本的一級和二級標(biāo)簽及各個標(biāo)簽的定義。下一步，中國信通院、中國通信標(biāo)準(zhǔn)化協(xié)會TC602網(wǎng)絡(luò)治理能力工作組將深入調(diào)研當(dāng)前主要企業(yè)在內(nèi)容識別方面的工作，特別是在標(biāo)簽方面的制定思路，匯總、完善標(biāo)簽體系的標(biāo)準(zhǔn)，并在完成相關(guān)標(biāo)準(zhǔn)之后，以評測的形式促進服務(wù)商提供規(guī)范、可信的服務(wù)。
數(shù)美科技基于6年來在內(nèi)容識別領(lǐng)域的積淀，依靠風(fēng)險內(nèi)容的海量樣本庫，已建立起一套完備的風(fēng)險內(nèi)容標(biāo)簽體系，助力平臺實現(xiàn)更全面更精細(xì)化的內(nèi)容管理，同時為中國信通院的內(nèi)容治理標(biāo)簽制定工作提供了借鑒。
目前數(shù)美科技的風(fēng)險內(nèi)容標(biāo)簽體系根據(jù)內(nèi)容形式分為文本、音頻、視覺（圖片與視頻）三類，每類都精細(xì)化地做到三級分層，包括色情、暴恐、違禁等8個大標(biāo)簽共1000多個細(xì)化標(biāo)簽，基本覆蓋了對平臺內(nèi)容的所有監(jiān)管要求，為各行各業(yè)提供了具體可執(zhí)行的審核標(biāo)準(zhǔn)參考，在實際應(yīng)用中效果顯著。
未來，數(shù)美科技將與信通院攜手，堅持以人工智能技術(shù)為依托，助力內(nèi)容治理標(biāo)簽體系向著更精細(xì)化更完善的方向發(fā)展，為不同平臺的內(nèi)容管理體系提供更高效、更規(guī)范、更可信的參考路徑。
