數字信息爆炸的時代，直播、短視頻憑借趣味性、強互動、碎片化、陪伴性等特點，成為最受人們歡迎的娛樂方式之一，許多未成年人也沉浸在由一場場直播和一個個短視頻構建出的虛擬世界中無法自拔。
直播、短視頻平臺為未成年人開啟了一扇通往新世界的大門，同時也帶來了一系列涉未成年人的新問題：“未成年人脫衣直播”、“11歲小學生打賞主播200萬，刷爆50萬信用卡才被發現”、“短視頻平臺驚現兒童邪典視頻”……自2017年起，類似事件便不時曝光。
直播短視頻亂象對未成年人造成的危害不容忽視。國家網信辦近期啟動了“清朗·暑期未成年人網絡環境整治”專項行動，嚴禁16歲以下未成年人出鏡直播，嚴肅查處炒作“網紅兒童”行為，禁止誘導未成年人打賞行為，防止炫富拜金、奢靡享樂、賣慘“審丑”等現象對未成年人形成不良導向。
圖片來源：國家網信辦
在新一輪監管行動背景下，數美科技基于成熟的標簽體系和多年風險內容識別經驗，對直播短視頻行業的涉未成年人痛點及監管政策深入分析，為直播短視頻平臺提供了一套行之有效的未成年人保護解決方案。
音頻/圖片/文本多維并行識別未成年人
一、未滿16周歲嚴禁出鏡，如何判斷賬號使用者的真實年齡？
邊打游戲邊解說，言語中摻雜臟話；穿著另類、動作夸張，唱著網絡“喊麥”歌曲；談情感創傷，在鏡頭前抽煙喝酒；唱歌跳舞，卻不時做出性感挑逗動作……直播平臺上，一些未成年人主播吸引了大批粉絲，成了小有名氣的“網紅”。
今年6月起施行的新修訂《中華人民共和國未成年人保護法》明確規定，網絡直播服務提供者不得為未滿十六周歲的未成年人提供網絡直播發布者賬號注冊服務。中央網信辦“清朗·暑期未成年人網絡環境整治”專項行動，也對16歲以下未成年人出鏡直播現象明令禁止。
隨著監管政策的不斷施壓，未成年人違規直播問題有所收斂。直播平臺要求開播用戶實名認證，在一定程度上已經將大部分的未成年主播攔在門外，卻無法徹底解決未成年人在成年人直播間出鏡的問題。去年曝出的“3歲女童被爸媽喂到70斤當吃播賺錢”，就是典型的成年人炒作“網紅兒童”的行為，平臺僅僅依靠賬號實名認證，根本無法防住這類直播內容的出現。
3歲女童被爸媽喂到70斤當吃播賺錢
數美科技直播短視頻行業未成年人保護解決方案從用戶的全周期行為（開播畫面、直播語音、連麥等環節）產生的多維內容入手，進行未成年人身份識別。
開播畫面：主播的外貌特征是判斷其年齡的最直觀依據。數美科技采用基于深度學習的圖片識別技術，構建強大的圖片識別引擎，精準識別圖片中未成年人特征，極大提升未成年人主播識別準確度。
數美科技能夠對不同年齡段的人像畫面做到智能識別，精準區分0-3歲的嬰兒、3-8歲的兒童、8-18歲的青少年以及18歲以上的成年人形象，有效控制未成年人開播和直播涉未成年人問題的出現。除此之外，解決方案能夠識別畫面主體是否為未成年人，在此基礎上區分未成年人單獨出鏡和與成年人混合出鏡的情況。
直播語音、連麥：未成年人的音色與成年人有很大不同。數美科技通過解析直播間產生的音頻內容，對主播的音色進行聲學特征識別，未成年人的嗓音往往更加稚嫩，聲調更高，在直播間說話、唱歌，都能夠被準確識別；同時將主播的直播、連麥內容轉換成文本，對其進行語義分析。舉個例子，如果主播在直播或者連麥過程中提到“明天是我14歲生日”、“學校宿舍不讓直播”、“上周沒直播，我媽把我手機收了”，數美科技將這些語音轉化成文本后就能對其進行語義分析，判斷當前開播者有多大可能性是未成年人。
對開播畫面和直播產生的音頻內容進行全方位分析后，數美科技能夠據此輸出“未成年人”、“疑似未成年人”標簽，當被標注“未成年人”、“疑似未成年人”的用戶申請開播時，平臺可對其開啟人臉驗證，驗證不通過即可拒絕開播；驗證通過后，平臺可對直播間采取巡查措施，一旦涉及未成年人出鏡問題，可以對其進行強制下播處理。
二、未成年人沉迷直播短視頻，青少年模式形同虛設？
據共青團中央維護青少年權益部、中國互聯網絡信息中心（CNNIC）發布的《2020年全國未成年人互聯網使用情況研究報告》，目前有82.9%的未成年網民擁有屬于自己的上網設備，短視頻作為新興互聯網娛樂服務，已經成為未成年人網民第三大網絡娛樂活動；10.6%的未成年網民在工作日收看短視頻超過2小時，在節假日刷短視頻超過兩小時的未成年網民將近五分之一。日常生活中我們也經常能夠看到，有些未成年人一刷起手機短視頻就欲罷不能。
圖片來源：《2020年全國未成年人互聯網使用情況研究報告》
對于各類直播短視頻平臺來說，青少年模式是防止未成年人沉迷的主要手段。自2019年3月起，國內主要短視頻和直播平臺開始試點上線“青少年模式”，通過內容、使用時段、時長等方面的特殊設計，引導青少年健康上網。目前，多數平臺會在用戶首次進入APP時進行彈窗提示。
然而，市面上有些青少年模式卻形同虛設，未成年人可以自主選擇是否進入青少年模式，甚至有些平臺的青少年模式通過卸載后再安裝這種小把戲就能被輕松繞過。
數美科技直播短視頻行業未成年人保護解決方案通過全方位分析賬號的評論、語音消息、動態等全周期、全旅程的行為和內容，對賬號進行未成年人標注。當被標注“未成年人”、“疑似未成年人”的用戶觀看時長超過平臺規定或者晚上十點后仍在使用時，平臺可激活人臉驗證流程，只有通過人臉驗證的確定為成年人的用戶才能夠繼續觀看直播或視頻，拒絕人臉驗證或人臉驗證不通過的用戶，平臺可采取強制下線措施。數美科技從賬號層面提供未成年人識別服務，助力直播短視頻平臺強化未成年人禁用時長和時段管理，讓青少年模式最大限度發揮效能。
三、“熊孩子”豪擲千金打賞主播，平臺怎樣識別未成年人充值打賞操作？
國家互聯網信息辦公室、全國“掃黃打非”工作小組辦公室等七部委聯合發布《關于加強網絡直播規范管理工作的指導意見》指出，網絡直播平臺不得向未成年人提供充值打賞服務；建立未成年人專屬客服團隊，優先受理、及時處置涉未成年人的相關投訴和糾紛，對未成年人冒用成年人賬號打賞的，核查屬實后須按規定辦理退款。
未成年人豪擲千金打賞網絡主播，不但給其家庭帶來了經濟損失，后續的退款流程也為平臺帶來不必要的困難。網絡直播短視頻平臺，應肩負起對未成年人充值打賞行為的監管責任。
目前，一部分平臺已經要求打賞用戶進行實名認證，未實名制注冊的用戶不能“打賞”，此舉可以將大部分未成年用戶隔離在打賞的“門外”。但是對于未成年人冒用成年人賬號打賞的情況，平臺往往處于被動地位，只能在事后處置未成年人相關的投訴和糾紛，并且面臨著取證困難、程序繁瑣等問題。
數美科技直播短視頻行業未成年人保護解決方案從賬號的行為和UGC內容入手，在成年人賬號充值打賞之前，通過分析其評論、語音、個人資料等信息，初步判斷賬號的實際使用者是否疑似未成年人。在賬號打賞過程中，對疑似未成年人賬號增設人臉識別、身份核驗關卡，提升未成年人打賞難度。平臺可參考數美科技提供的賬號標簽和人臉驗證結果，對可能存在異常消費的賬號采取臨時凍結消費、強制下線等功能，防止未成年人冒用或者借用成年人賬號充值與打賞。
四、不良內容侵蝕未成年人，青少年模式太“無趣”？
對網絡不良內容的監管一直是國家網信工作的重中之重?！度嗣袢請蟆方瞻l布微博，堅決抵制網絡三俗內容，要求對于侵害未成年人合法權益的問題保持“零容忍”態度，各網站平臺要積極履行主體責任。
當前，許多直播短視頻APP中仍然存在色情、煙酒、暴力等不適宜向未成年人展示的信息，部分主播在直播中打“軟色情”擦邊球，崇尚炫富拜金的價值觀，賣慘、審丑之風盛行。由于未成年人心智尚不健全，對不良內容缺乏鑒別力，這類不良直播、不良視頻給未成年人的價值觀造成嚴重危害。
直播短視頻平臺可以看作是融合了文本、圖片、音頻、視頻等多種形式的多元內容平臺，其審核體系比其他平臺更復雜，審核難度更大，尤其是直播產生的視頻流內容，給內容審核提出了更高的挑戰。數美科技依托旗下全棧式智能內容識別產品——天凈，打造了專門針對直播短視頻場景的內容識別功能，從文本、圖片、音頻、視頻中全方位精準識別直播短視頻平臺中的未成年人鏡頭以及色情、血腥、違禁、暴恐、炫富拜金等風險內容，將危險內容過濾到未成年人網絡世界之外。
除此之外，數美科技直播短視頻行業未成年人保護解決方案能夠幫助平臺實現更精細化的內容管理。在實踐過程中，很少有未成年人會主動打開青少年模式的一個重要原因，就是青少年模式內容池不夠豐富。短視頻的優勢就在于個性化推送用戶喜歡的內容，然而當前一些短視頻平臺的青少年模式為了規避內容風險，只是“一刀切”地給未成年用戶提供科普、人文等學習類內容，不僅單調，而且也無法滿足未成年人正常的精神需求。數美科技依靠多年積淀起來的強大精細的內容標簽體系，對平臺內容池中的視頻進行打標簽分類管理，平臺可依據數美科技提供的內容標簽，為不同年齡段的用戶智能推薦適合觀看的視頻內容，實現規避不良內容風險的同時，也豐富了青少年保護模式下的內容池。
直播短視頻平臺的未成年人保護之路困難重重，數美科技愿與平臺攜手，發揮AI技術在未成年人網絡保護方面的社會價值，讓直播、短視頻平臺真正成為未成年人看世界的一扇清朗之窗。
