7月21日，2022北京網(wǎng)絡(luò)安全大會技術(shù)峰會上，百度副總裁馬杰詳細(xì)介紹了在AI安全領(lǐng)域的一些實踐和研究，分享了他在元宇宙與AI結(jié)合方面的新思考。
馬杰表示，伴隨數(shù)字經(jīng)濟(jì)智能經(jīng)濟(jì)的發(fā)展，以及國際政治經(jīng)濟(jì)格局的變化，在全球范圍內(nèi)網(wǎng)絡(luò)安全形勢正在發(fā)生一系列深刻的變革，其中以AI為代表的新技術(shù)、新應(yīng)用和新場景快速崛起。一方面，AI與實體經(jīng)濟(jì)進(jìn)一步融合，帶給社會很多的便利，而另一方面，AI也刷新了對網(wǎng)絡(luò)安全的認(rèn)知、重構(gòu)了原有的網(wǎng)絡(luò)安全體系。多方協(xié)同共治，已成為共識。
如何構(gòu)建一個更為安全的智能時代？馬杰提到，兩年前百度提出了Security、Safety、Privacy的AI安全三大研究維度，并以此為基礎(chǔ)，圍繞算力算法和數(shù)據(jù)，進(jìn)一步把AI安全能力，覆蓋到了各種應(yīng)用場景，由此構(gòu)建起了一整套體系化的安全框架。例如AI自主框架安全模型攻擊檢測、數(shù)據(jù)安全能力以及有隱私保護(hù)的機器學(xué)習(xí)能力等。
面對新變化與新技術(shù)，馬杰認(rèn)為，對于安全來說，最大的挑戰(zhàn)永遠(yuǎn)不是該如何去解決問題，而是如何才能更快的更準(zhǔn)確的發(fā)現(xiàn)問題。相比較之下，人的行為環(huán)境變化很大，真實世界中有太多風(fēng)險無法預(yù)判，因此想要窮盡所有的可能不現(xiàn)實，因此提前應(yīng)對潛在的安全問題成為了每一個安全人必須考慮的問題。
近期，百度在嘗試有關(guān)自動駕駛安全研究項目——鐵馬冰河，此項目是一個聚焦于沉浸式高擬真場景，富含AI對抗的元宇宙化安全測試平臺，在這個平臺上我們構(gòu)建了大量高擬真的測試場景去捕捉自動駕駛產(chǎn)品感知環(huán)節(jié)的漏洞，將Fuzzing模糊測試的理念與元宇宙相結(jié)合，并進(jìn)行視覺魯棒性Al安全對抗性的指標(biāo)評測，通過虛實結(jié)合的仿真測試為自動駕駛安全保駕護(hù)航。
目前項目已經(jīng)可以支持三個方向的自動駕駛安全測評方案，并由此構(gòu)建了一個從整車在環(huán)、硬件在環(huán)，再到軟件在環(huán)的全鏈條測試驗證體系。
他分享到，百度為應(yīng)對用AI、用云、用元宇宙等的安全問題，構(gòu)建出了一個數(shù)字孿生世界，在平行空間內(nèi)測試、用最大限度去發(fā)現(xiàn)想不到和想得到的安全隱患。
“國產(chǎn)元宇宙產(chǎn)品希壤，則是百度打造出的平行于現(xiàn)實世界的第二時空。”馬杰分享到，今年6月，鐵馬冰河已上線希壤。未來，希壤將不僅創(chuàng)造出近乎仿真的虛擬環(huán)境，也將打通一系列數(shù)據(jù)，并與平行的元宇宙大世界產(chǎn)生互動，未來，個人也將有機會作為真人NPC參加到車輛測試中。此外，在仿真環(huán)境的反復(fù)測試，也將能夠給出更多真實的測試反饋，并納入到未來鐵馬冰的設(shè)計之中。
馬杰提到，處在一個新與舊相互疊加的時代，一方面AI本身的安全性挑戰(zhàn)超出了傳統(tǒng)的安全邊界與框架的認(rèn)知范疇，同時新升級的問題也在同時出現(xiàn)，因此，將AI與Meta等新技術(shù)的結(jié)合將為未來安全能力的研究注入新動能。與此同時，百度也在利用Fuzzing進(jìn)行模糊測試，并將Fuzzing與Meta結(jié)合，以便未來挖掘出它的更大價值。
目前，百度先后多次將開源技術(shù)、平臺等捐獻(xiàn)給了開源基金會，希望基于這些開放的研究、開放的代碼，可以更好地與合作伙伴一起共同推動產(chǎn)學(xué)研各界合作，從而構(gòu)建起來一個更為開放的生態(tài)，未來能夠更好地服務(wù)于國家網(wǎng)絡(luò)安全建設(shè)，履行企業(yè)應(yīng)由的社會責(zé)任。
據(jù)了解，百度是目前全球為數(shù)不多可以提供AI芯片AI軟件架構(gòu)和AI應(yīng)用等全棧AI技術(shù)的企業(yè)之一。今年的第一季度百度的核心研發(fā)費用達(dá)到了51.34億元，這占到核心收入的比例已連續(xù)六個季度超過了20%，研發(fā)投入強度位居中國大型科技互聯(lián)網(wǎng)公司的前列。
