“你下載國家反詐中心APP了嗎？” 在8月份應(yīng)用下載量排行中,「國家反詐中心」以704.25萬的下載量沖上榜首，這背后體現(xiàn)著全民反詐積極性、以及反詐意識的提高。
當(dāng)今，除常規(guī)常見的詐騙套路，不法分子的招術(shù)隨著科技的發(fā)展也在加碼“升級”。AI技術(shù)在引領(lǐng)產(chǎn)業(yè)智能化、提升生活品質(zhì)的同時，還有可能遭到不法分子的惡意利用，生成高科技的新型詐騙手段，人力難防。
2021年9-10月，國家反詐中心主辦“全民反詐”系列直播活動，百度安全專家受邀將做客直播間，向廣大網(wǎng)民科普網(wǎng)絡(luò)詐騙、解析新型詐騙手法、提升公民防詐意識。
百度對外公布，其AI技術(shù)目前已可應(yīng)對70余種電信網(wǎng)絡(luò)詐騙套路，包括較為常見的：網(wǎng)賺刷單、誘導(dǎo)投資理財、薦股、套路貸、虛擬幣、AI換臉仿冒公眾人物言論等。不僅在全網(wǎng)有害信息搜索攔截、APP安裝攔截、內(nèi)容生態(tài)治理方面，從源頭攔截有害信息觸達(dá)用戶；另一方面，AI技術(shù)還在有效應(yīng)對AI的濫用，如AI換臉等，運(yùn)用AI模型安全和深度學(xué)習(xí)等技術(shù)，構(gòu)建檢測平臺，協(xié)助相關(guān)部門守護(hù)公民財產(chǎn)與信息安全。
AI技術(shù)阻擊AI濫用，讓“AI換臉”、“AI換聲”無處遁形
AI技術(shù)濫用實(shí)施詐騙，手段高明，迷惑性更強(qiáng)。用AI技術(shù)對抗AI技術(shù)濫用非常必要。
近年來“AI換臉”引發(fā)了社會廣泛的關(guān)注，其讓眼見不能為實(shí)，使之前“保真度”很高的視頻、直播等變得不再可靠，并且存在潛在的安全隱患、法律問題與倫理陷阱。
百度安全近年來在多個國家級安全會議上展示了AI換臉的制作過程，通過簡單地幾步操作，視頻里的角色就能輕易替換成另一個人，連眨眼的表情與姿態(tài)幾乎都能做到完全同步。此類基于AI的人體圖像合成技術(shù)被統(tǒng)稱為Deepfake，即“深度偽造”。
技術(shù)濫用帶來了一系列的“AI黑灰產(chǎn)”問題，通過“換臉”技術(shù)進(jìn)行色情圖片、視頻生成、虛擬政治人物講話等，使人臉識別技術(shù)的信息安全受到威脅，對社會秩序與輿論環(huán)境帶來極大的風(fēng)險。
百度對于AI安全的重視由來已久。早在2019年，作為百度多年AI技術(shù)的集大成——百度大腦，發(fā)布升級至5.0，率先將“AI安全”納入作為縱貫基礎(chǔ)層、感知層、認(rèn)知層、平臺層等各層的安全保障。
百度AI長期還致力于反黑灰產(chǎn)前沿技術(shù)的研究。基于在AI模型安全、深度學(xué)習(xí)卷積神經(jīng)網(wǎng)絡(luò)(CNN)技術(shù)等領(lǐng)域的長期探索與研究，2019年，百度安全推出國內(nèi)首個基于人臉?biāo)阉鳌⑷四槍傩蕴崛 ⒄Z音識別和OCR識別的深偽檢測平臺，采用多種算法和專利保護(hù)技術(shù)，對主流“深度偽造”數(shù)據(jù)識別準(zhǔn)確率在99%以上，能及時地協(xié)助監(jiān)管部門檢測相關(guān)風(fēng)險與問題。
目前，百度深偽檢測平臺已面向業(yè)界開源，致力于促進(jìn)多方部門開展聯(lián)合開發(fā)及測量評估，從源頭阻斷濫用AI實(shí)施電信網(wǎng)絡(luò)詐騙行為的蔓延。
除了“AI換臉”，“AI換聲”在技術(shù)層面也存在可能性。如犯罪團(tuán)伙通過非法手段獲取個人語音信息，繼而將固有的話術(shù)和被害目標(biāo)親屬的原聲進(jìn)行結(jié)合，利用“深度偽造”生成個性化語音片段，通過“智能客服”以攻破被害人的心理防線，從而達(dá)到騙取錢財?shù)确欠康模源颂嵝压娞岣叻婪兑庾R。
發(fā)揮知識圖譜、大數(shù)據(jù)技術(shù)能力，從源頭阻斷黑灰產(chǎn)觸達(dá)用戶
數(shù)據(jù)顯示，網(wǎng)絡(luò)詐騙在各類電信網(wǎng)絡(luò)詐騙案件占比逐年上升，欺詐類惡意網(wǎng)站作為承載各類欺詐非法交易、導(dǎo)流至更多惡意網(wǎng)站的重要平臺，已成為黑灰產(chǎn)實(shí)施網(wǎng)絡(luò)犯罪的上游。
針對詐騙鏈條上游的整治是百度AI長期監(jiān)控、攔截、黑灰產(chǎn)共治的目標(biāo)，力爭從源頭上阻擊詐騙。
百度AI依托威脅情報大數(shù)據(jù)和百度大腦核心技術(shù)之一的知識圖譜，搭建全網(wǎng)基于搜索生態(tài)、內(nèi)容平臺的安全態(tài)勢感知系統(tǒng)，針對網(wǎng)絡(luò)詐騙上游進(jìn)行治理、清理。
一方面，通過百度安全態(tài)勢感知系統(tǒng)，可針對全網(wǎng)文字、圖片、視頻、代碼等進(jìn)行智能建模和7×24小時實(shí)時監(jiān)控，對欺詐、違法、風(fēng)險等惡意網(wǎng)站及第三方瀏覽器、第三方APP、社交平臺、短信網(wǎng)址有害信息采取風(fēng)險標(biāo)注、攔截提示、搜索屏蔽等攔截措施，該系統(tǒng)目前通過事前監(jiān)控—— 事中攔截——事后追溯的保障機(jī)制，從源頭阻斷網(wǎng)絡(luò)黑灰產(chǎn)觸達(dá)用戶。
另一方面，針對電信網(wǎng)絡(luò)詐騙的源頭——公民個人信息泄露進(jìn)行集中治理，對相關(guān)涉嫌網(wǎng)站進(jìn)行攔截屏蔽，對內(nèi)容平臺相關(guān)違法違規(guī)信息進(jìn)行重點(diǎn)清理，并對相關(guān)行為人實(shí)施永久封禁賬號等處罰措施，多方位保護(hù)公民個人信息安全。
此外，還有“百度網(wǎng)址安全中心-網(wǎng)址檢測平臺”可供公民實(shí)時自查可疑網(wǎng)站，輕松識破詐騙；百度安全已上線百度移動端詐騙APP安裝攔截，對搜索生態(tài)中的涉嫌詐騙APP進(jìn)行阻斷治理，為用戶安全訪問提供保障。
自2019 年來，網(wǎng)絡(luò)安全態(tài)勢較為嚴(yán)峻，攻防對抗不斷升級。據(jù)統(tǒng)計，近兩年，百度安全年均攔截各類惡意信息416.1億次，攔截涉詐網(wǎng)站及APP觸達(dá)用戶量2700萬次，日均保障公民個人信息免遭惡意披露22萬次，針對“兩卡”違法交易的累計信息清理超過493萬次。
此外，多年來百度積極配合公安機(jī)關(guān)，為打擊刑事案件提供技術(shù)支持——提供黑灰產(chǎn)線索、還原黑灰產(chǎn)畫像、深入?yún)⑴c偵辦，協(xié)助營造清朗良好網(wǎng)絡(luò)生態(tài)，切實(shí)保障數(shù)億網(wǎng)絡(luò)用戶的搜索體驗和公民個人信息安全。近年來配合公安機(jī)關(guān)破獲各類網(wǎng)絡(luò)犯罪案件上千起，涉案金額達(dá)數(shù)億元人民幣。反黑產(chǎn)開放平臺向公安機(jī)關(guān)輸出包括詐騙信息在內(nèi)的各類“風(fēng)險網(wǎng)站及APP”威脅情報逾百萬條，助理監(jiān)管機(jī)構(gòu)實(shí)現(xiàn)對各類新型網(wǎng)絡(luò)犯罪行為的快速研判、重點(diǎn)攻堅、科學(xué)預(yù)警和及時阻斷。
網(wǎng)絡(luò)安全生態(tài)治理是一場持久戰(zhàn)。未來，百度AI將持續(xù)通過技術(shù)研發(fā)完善網(wǎng)絡(luò)綜合治理體系，技術(shù)開源、情報共享、黑產(chǎn)共治，協(xié)同政府、行業(yè)、機(jī)構(gòu)共筑公民財產(chǎn)及信息安全防線，不斷用領(lǐng)先AI技術(shù)手段攻克黑灰產(chǎn)“武器庫”，用AI戰(zhàn)勝AI，守護(hù)每一位公民安全、安心生活。
