6月21日,由中國信通院云計算與大數據研究所、內容科技產業推進方陣、中國通信標準化協會TC602聯合主辦的 “2022內容科技成果發布會” 在線上召開。會上公布了2022年首批內容科技產品評測結果,云上曲率多語言內容風控產品以全項5星成績通過功能完整性、系統性能與安全性、服務質量以及用戶最為關切的審核質量等多維度測評,獲得內容審核領域權威標準認證。
中國信息通信研究院于2017年起開始內容審核技術方面的研究,依托中國通信標準化協會TC602聯合眾多行業專家,制定了基于視頻、圖像、文本和音頻的《有害內容審核服務系統評估規范》,涵蓋了服務、功能、性能三個維度的128個指標項。 此次展開的“內容審核服務評測”圍繞著圖像、文本、音頻、視頻等主流內容形式,從內容審核系統的基礎功能和性能兩個維度進行評測,并根據測試結果評定星級。
審核功能測試采取現場功能核驗的方式,從檢測功能、審核功能、監控功能、數據可靠性、系統安全性等指標項驗證服務是否能夠滿足用戶基本使用需求。主要評測內容為:服務形態、支持審核內容的類型和格式等是否滿足網絡平臺的業務實際需求,如支持圖像、文本、視頻、音頻等多種模態的內容審核;能夠識別色情、暴恐、謠言等多類型的違規內容;能夠支持流媒體、動態圖的識別;能夠支持超大圖像、超長視頻的識別等。
審核性能測試通過接口調用的方式測試參測系統對樣本識別的F1值。在測試過程中,選取一定量的樣本,根據平臺提供的標簽進行單一模態的性能測試,并根據系統返回結果計算F1值,評定等級。內容審核的性能指標通過召回率(查全率)、精準率(查準率)等數據進行衡量。
隨著移動互聯網發展,全球化的泛娛樂、游戲應用呈爆發式增長,內容安全風險伴隨而生,嚴重影響企業產品的正常運營發展。
云上曲率作為全球領先的實時互動與人工智能服務商,打造集實時互動、多語言內容風控、智能翻譯于一體的產品矩陣,致力于為全球用戶提供穩定、安全、無界的一站式實時互動體驗。
憑借10余年泛娛樂與游戲領域的技術經驗積累及對全球各國家安全政策的持續深入研究,云上曲率多語言內容風控產品已支持全球20余種主流語言與多種方言、俚語,通過自研算法模型,對文本、圖片、音頻、視頻中出現的涉政、色情、辱罵、暴恐、違禁、廣告等垃圾內容進行實時精準過濾,同時對泛娛樂及游戲場景中經常出現的變體字母,隱晦表述等非常規信息同樣可做到準確識別,通過數字化的方式提供審核、打標、自定義配置等服務來滿足企業需求,打造業務、內容、用戶三重安全保障。
云上曲率為全球企業客戶提供“前期調研”-“快速上線”-“運營支撐”的一站式服務體系。通過對企業客戶需求的快速響應,以周為單位快速對內容安全模型進行優化迭代,保障企業業務合法合規,業務健康良好發展。
未來,云上曲率仍將繼續深耕多語言內容風控方向,積極探索前沿技術及應用研究,加深對各行業各領域的理解,打造適合不同行業場景的內容風控應用,多方位滿足更多領域企業的內容風控需求