近日，央視報道的一則“女子被刷臉背上萬余元貸款”的新聞登上微博熱門話題。人臉識別技術的話題再次引發大家的熱議。人臉識別技術雖然應用越來越廣泛，但其存在的風險也不斷被暴露出來。
圖片來源于微博
由全國信息安全標準化技術委員會等機構成立的App專項治理工作組，發布了一份《人臉識別應用公眾調研報告（2020）》。報告顯示，有九成以上的受訪者都使用過人臉識別，具體用途當中“刷臉支付”最為普及。有六成受訪者認為人臉識別技術有濫用趨勢，三成受訪者表示，已經因為人臉信息泄露、濫用而遭受到隱私或財產損失。
“臉”作為AI時代最重要的身份識別特征，一旦“丟臉”，被不法分子盜用臉部信息，就會面臨著巨大的風險：
1.詐騙：竊取用戶臉部信息偽造他人的動態視頻破解人臉識別系統騙取賬戶和財產。
我們日常生活中，手機解鎖、考勤打卡、交通出行、線上業務辦理等場景都用臉來作為“密碼”，尤其銀行等金融機構開設了人臉識別注冊登錄、“刷臉”交易、貸款等服務。“刷臉”的場景越來越多，由“臉”帶來的風險也隨之增長。以假扮公眾人物的演講為例，偽造訴訟證據，偽造身份進行網絡詐騙。此前有報道顯示，一些電商平臺以低價出售匹配了身份信息的人臉數據。不法分子再利用AI變臉技術，將人臉置換到點頭、搖頭、眨眼、說話等行為的動態驗證視頻中，以此辦理網貸或實施其他精準詐騙行為。
2.色情：利用竊取的臉部信息替換色情視頻中的人像傳播色情或實施敲詐
阿姆斯特丹的一家致力于研究Deepfake的組織Deeptrace曾發布一項對近15000個換臉視頻的研究。研究發現，在發布的換臉視頻中，有96%是色情內容，其中99%的內容是女性名人的面孔。艾瑪·沃特森、斯嘉麗·約翰遜等多位好萊塢女星也曾躺槍，被換臉成色情電影女主角，無故陷入“艷照門”事件。近期，各地網警頻頻破獲的“裸聊騙局”，也源于AI換臉技術的“加持”，江蘇網警破獲的一起案例中，一名受害者明知是場騙局，卻因好奇心使然，進入不法分子的圈套，臉部信息被移花接木，P到不雅視頻中。在對方的脅迫下，持續轉賬試圖買斷不雅視頻。
3.侵權及內容違規風險：利用名人臉部信息換臉存在侵權風險，利用涉政人物面部信息，給平臺增加敏感信息的風險
《中華人民共和國民法典》明確提出，任何組織或者個人不得以丑化、污損，或者利用信息技術手段偽造等方式侵害他人的肖像權。在監管層面，利用領導人的面部信息來偽造人臉，存在內容違規的風險，給平臺帶來內容風控壓力，增加平臺違規風險。
以技術防御技術風險
目前，出現莫名“被刷臉”可能是由以下兩種情況導致：
一 識別不精準（即人臉識別圖像信息與注冊人信息不符）。針對識別不精準的問題，通常我們可采用多樣本匹配、多維度驗證即可解決；二、使用AI技術換臉（即AI換臉技術被不法分子惡意利用）AI 換臉技術是當下亟待解決的難點。AI換臉黑產已經在國內形成了完整的產業鏈，從下游成品視頻、中游定制視頻到上游軟件及教程都有提供，有的賣家甚至提供全產業鏈產品和售后服務。
早在2019年，ZAO大火之時，數美科技的CTO梁堃憑借多年在智能風控領域的敏銳度，就意識到AI變臉背后的風險：“我的第一直覺，AI換臉技術被不法分子惡意利用，后果是無法想象的，數美科技作為一家智能風控公司，業務風控是我們的專業領域，盡快研發出針對風險行為的識別產品是我們的使命。”帶著這樣的使命，數美科技迅速研發出AI換臉識別產品。
該產品基于人臉檢測技術、人臉特征提取技術以及針對人臉識別場景優化后的XceptionNet網絡，通過視頻多幀綜合識別，只需要10秒包含目標人物的視頻，就可快速精準識別視頻內容是否通過AI換臉技術偽造而成。同時，數美科技的AI換臉識別模型能夠自動提取人臉關鍵點、臉部邊緣、人臉朝向等重要特征，這些特征幫助模型在視頻識別上的準確率達到90%以上，能夠有效防范各種利用AI換臉視頻實施詐騙的行為。
隨著人臉融合技術的發展，因與真實人臉的融合更加自然和諧，對偽造人臉識別技術提出了更高的要求。數美科技從中發現規律特征，對技術進行了針對性的升級。相比于現有基于大量數據訓練出的純分類模型
，數美科技結合語義分割技術和分類技術，利用HRNet對偽造痕跡進行定位，同時利用偽跡信息輔助后續偽造人臉的判斷，在取得高召回的同時也保證了高準確。在網絡設計中，遵循輕量高效的原則，采用分組卷積、深度可分離卷積等前沿技術，可同時對身份更換及人臉表情變換進行快速精準識別，在防范欺詐行為的同時，幫助平臺防御視覺業務層面侵權、涉政等風險。
識別是抵御風險的第一步，數美科技利用已經建立起的龐大用戶畫像系統，在行為層面從設備層、賬號層、行為層形成清晰的用戶畫像，以畫像輔助判定偽造人臉的行為風險。憑借多年來對抗黑產的經驗，對各個隱藏的黑產群體形成針對性關注，能夠有效避免AI變臉技術被不法分子用于欺詐。
在內容識別層面，數美科技通過對海量數據的深度學習，提供圖像視覺內容的在線精準識別和實時標簽返回服務。與此同時，數美科技擁有海量樣本庫，模型快速迭代驅動視覺識別引擎時刻升級，保證綜合識別能力的持續提升。更有10萬+明星樣本庫等特別樣本庫，能夠提供更加高效精準的偽造人臉識別能力，幫助平臺規避侵權和內容違規風險。
以技術防御技術風險，數美科技將繼續深耕智能風控領域，幫助平臺及用戶防御風險，助力構建健康向善的網絡生態。
