近日，AI“換臉”詐騙案件在福州、安慶等多地發生，引發公眾的關注和熱議，“AI詐騙正在全國爆發”話題熱度居高不下。據公安部數據統計，我國犯罪結構已發生了重大變化，傳統犯罪持續下降，以電信網絡詐騙為代表的新型網絡犯罪已成為當前的主流犯罪形式。可怕的是，有AI加持的“高端騙局”，已經顛覆了“眼見為實”的認識論權威，人們的肉眼已無法分辨真偽，究竟該如何破解？
以“AI換臉”、“AI換聲”為代表的深度偽造內容，其自動化鑒別已是剛需。據悉，為了促進深度偽造檢測相關技術的發展，國內外已發布專項研究計劃以及開展相關的學術競賽。學術界和產業界均已對深度合成鑒別檢測技術的研發進行了大量投入，包括Meta（原Facebook）、谷歌、微軟、馬普所等機構均推出視頻認證的方法或產品。在國內，清華大學、中科大等高校均在深偽檢測方面取得顯著成果。
由清華大學人工智能研究院孵化的北京瑞萊智慧科技有限公司，已構建人臉合成檢測平臺并發布針對性的檢測產品，支持對多種換臉方法進行檢測，例如AI 安全防火墻一體機。它是業內首個全面加固任意人臉識別系統的一體化設備。通過集成 RealAI 世界領先的對抗檢測算法以及深度合成檢測算法，能夠有效抵御深度偽造攻擊、對抗樣本攻擊等新型AI安全風險，大幅提升人臉識別系統的安全性。
瑞萊智慧AI安全防火墻一體機
瑞萊智慧技術專家透露，利用人工智能技術進行“面部篡改”目前主要分為兩大類：一類是面部替換技術，將一人的面部直接替換到另一人的面部上；另一類是表情操縱技術，將一個人的面部表情移植到另一個人照片的面部，從而讓被移植人照片活化起來。
深度偽造生成的內容偽裝性強、欺騙性高。當前深度合成的方法多樣，且發展更新的速度較快。隨著深度偽造內容的逼真度越來越高，對深度偽造檢測技術也提出了更高的要求。
瑞萊智慧AI 安全防火墻一體機基于多年技術積累研發，可被應用于實名認證、刷臉通行、人臉解鎖等多種場景。產品包含了業內最全的攻擊樣本數據集，全面覆蓋新型AI安全風險。在檢測效率上，整機安全檢測性能不低于200QPS的圖片類樣本處理能力，并支持通過設備橫向擴展與集群部署提升整體檢測性能。同時該產品做為AI應用領域的專用安全一體化設備，具有部署快捷，開箱即用的特點。
入選中關村論壇《2023十大最具影響力新技術新產品榜單》
5月27日，2023年中關村論壇的中關村國際技術交易大會開幕式暨全球技術交易生態伙伴大會上，發布了《百項新技術新產品榜單》及“十大最具影響力新技術新產品”，對全球科技創新前沿成果進行集中展示。其中，瑞萊智慧研發的人臉AI安全防火墻入選《百項新技術新產品榜單》，并獲評“十大最具影響力新技術新產品”。
