7月22日,由澎湃新聞網主辦的“新潮·澎湃”2021外灘新媒體峰會在上海拉開帷幕。在本次外灘新媒體峰會上,數美科技與澎湃新聞聯合發布了《網絡信息內容安全洞察報告》(以下簡稱《報告》)。澎湃·清穹風控COO孫光海在峰會上對報告內容做了分享。
《報告》分析了2020年網絡信息內容安全的形勢、理念,總結了內容安全的發展思路和舉措,并給出了內容安全發展六點建議。數美科技與澎湃新聞聯合發布《網絡信息內容安全洞察報告》
《報告》認為,在中央網信辦、公安部、全國打黃掃非辦公室、國家廣電總局等相關部門持續采取“清朗”、“凈網”等專項行動后,網絡空間生態繼續顯示出總體向好的趨勢,主旋律高昂、正能量充沛、傳播秩序有序,網絡空間日漸清朗。數美科技與澎湃新聞聯合發布《網絡信息內容安全洞察報告》
但是網絡信息內容安全局部隱患仍然存在、內容風險指數仍高位運行,內容安全被置于前所未有的重要位置,成為網絡安全的重要子集。數美科技與澎湃新聞聯合發布《網絡信息內容安全洞察報告》
2020全年澎湃審核信息2.7億條,攔截有害信息31.5萬條,占比0.12%。有害信息中,涉政內容21%,色情低俗內容40%,暴恐違禁內容10%,涉未成年人內容1%,其他違規28%。
就有害信息形成的原因,孫光海從五個方面進行了分析:UGC平臺崛起,人人都是創作者;利益驅動,追逐流量;缺乏完善高效的內容管理機制和內容審核技術;缺乏具體可執行的內容生產行業規范和標準;國際輿論(意識形態)斗爭。
《報告》對內容供給側、傳播側的內容安全現狀分析后發現,大平臺、大網站、大媒體的內容安全體系建設不斷完善,但在部分專項上存在短板,極少數分發平臺的內容安全策略不夠完善、安全保護能力不夠;中小型網站、小微企業網站、自媒體等在內容安全上存在技術短板,在內容安全機制上亟需加強。不同的行業內容安全建設水平不同,互聯網行業的網絡信息內容安全意識和措施,則普遍高于傳統行業。數美科技與澎湃新聞聯合發布《網絡信息內容安全洞察報告》
內容安全在不同業務類型的網站上表現不同。《報告》認為,生活服務類分發網站,內容安全意識相對薄弱,審核體系有待進一步完善;新聞類、社交類、媒體類分發平臺的內容安全管理機制則不斷完善,形成了各自特色的內容管理模式和內容安全策略。數美科技與澎湃新聞聯合發布《網絡信息內容安全洞察報告》
《報告》就網絡信息內容安全發展給出了六點建議:一、持續完善相關法律法規建設;二、加強內容安全管理體系中關鍵技術的攻關能力;三、建立內容安全管理標準、體系;四、加快內容安全中高級人才隊伍建設;五、提高青少年的網絡綜合素養;六、加大違法處罰力度,關閉僥幸大門。
在本次“新潮·澎湃”2021外灘新媒體峰會上,數美科技CTO兼聯合創始人梁堃受邀參加了《新技術助力網絡內容生態治理》圓桌論壇,針對AI識別違規內容所面臨的挑戰及機器識別涉政違規信息等內容做了分享。
“新潮·澎湃”2021外灘新媒體峰會圍繞主題報道的突破與創新、新技術如何助力內容生態治理、轉型新媒體的商業化路徑、區域媒體的機遇與挑戰等議題展開研討,為廣大行業從業者提供了更多落地的參考方向和思路。數美科技與澎湃新聞聯合發布《網絡信息內容安全洞察報告》