在上海，第二屆AI大模型企業(yè)落地應(yīng)用場景創(chuàng)新峰會(huì)圓滿落幕，此次峰會(huì)由DTinsight中國數(shù)智發(fā)展研究中心主辦，并獲得珠峰AI、TGO鯤鵬會(huì)及DT千川匯的智庫支持。峰會(huì)以“探索未至之境”為主題，吸引了眾多業(yè)界精英參與。其中，騰訊云安全總經(jīng)理李濱在主論壇上發(fā)表了題為《攻防對抗升級(jí)：大模型重塑網(wǎng)絡(luò)安全格局》的演講，分享了對未來網(wǎng)絡(luò)安全領(lǐng)域的深刻洞察。
李濱指出，未來的網(wǎng)絡(luò)安全戰(zhàn)場將是AI與AI之間的較量，依靠人力對抗裝備精良的黑客團(tuán)隊(duì)已不切實(shí)際。AI與大模型的興起，促使攻防雙方的能力均得到顯著提升。面對大模型帶來的安全挑戰(zhàn)，企業(yè)需從組織架構(gòu)到技術(shù)儲(chǔ)備進(jìn)行全面調(diào)整，以構(gòu)建一個(gè)與AI和諧共生的安全體系。
作為網(wǎng)絡(luò)安全領(lǐng)域的領(lǐng)頭羊，騰訊安全始終站在技術(shù)前沿，致力于大模型安全研究，不斷完善大模型在基礎(chǔ)設(shè)施及應(yīng)用層面的安全治理機(jī)制。騰訊推出了多款高性能產(chǎn)品，助力企業(yè)抵御AI時(shí)代的安全風(fēng)險(xiǎn)，并積極聯(lián)合CSA云安全聯(lián)盟大中華區(qū)、OWASP中國等權(quán)威機(jī)構(gòu)，推動(dòng)大模型安全標(biāo)準(zhǔn)的落地實(shí)施。
隨著Deepseek等技術(shù)的突破，企業(yè)對于AI的應(yīng)用熱情空前高漲，大模型正加速融入各行各業(yè)，為解決產(chǎn)業(yè)痛點(diǎn)提供新思路。然而，對于安全從業(yè)者而言，這同樣意味著前所未有的安全挑戰(zhàn)。李濱強(qiáng)調(diào)，AI技術(shù)的廣泛應(yīng)用打破了傳統(tǒng)數(shù)字安全的邊界，使得信息安全事故的影響范圍從數(shù)字世界延伸至物理世界，后果更為嚴(yán)重。
大模型帶來的安全挑戰(zhàn)主要體現(xiàn)在兩個(gè)方面：一是攻擊側(cè)能力的提升，如利用AI編寫攻擊代碼和工具，使得攻擊速度大幅提升；二是大模型本體的安全問題，包括模型缺陷、不當(dāng)配置等，均可能引發(fā)安全風(fēng)險(xiǎn)，如AI幻覺、隱私泄露等。然而，大模型同樣為防御側(cè)帶來了強(qiáng)大助力，實(shí)現(xiàn)了安全管理與事件響應(yīng)效率的大幅提升，如通過大模型優(yōu)化安全策略管理，快速識(shí)別安全風(fēng)險(xiǎn)等。
李濱認(rèn)為，大模型仍處于初期階段，未來其生產(chǎn)力將進(jìn)一步釋放，應(yīng)用領(lǐng)域也將更加廣泛。因此，我們需要制定相應(yīng)策略以應(yīng)對安全問題和風(fēng)險(xiǎn)，構(gòu)建一個(gè)與AI共生的安全體系。這要求企業(yè)從技術(shù)層、管理層、合規(guī)層和倫理層四個(gè)層面出發(fā)，構(gòu)建AI時(shí)代的動(dòng)態(tài)安全生態(tài)。
騰訊依托自研大模型混元及面向C端用戶的大模型應(yīng)用“元寶”，在大模型應(yīng)用方面覆蓋了從底層技術(shù)研究到企業(yè)服務(wù)、終端應(yīng)用的全鏈路解決方案。騰訊安全基于這一“全局視角”，建立了一套系統(tǒng)性的框架，對人工智能及大模型的安全風(fēng)險(xiǎn)進(jìn)行全面分析，從業(yè)務(wù)流和技術(shù)棧兩個(gè)維度出發(fā)，識(shí)別本體安全、運(yùn)行環(huán)境、基礎(chǔ)設(shè)施及應(yīng)用環(huán)境中的風(fēng)險(xiǎn)缺陷。
在風(fēng)險(xiǎn)控制框架之下，騰訊建立了大模型相關(guān)的整體安全治理架構(gòu)，確保從數(shù)據(jù)采集到業(yè)務(wù)應(yīng)用的全流程均符合監(jiān)管要求，為企業(yè)提供安全、可控、可靠的服務(wù)。針對數(shù)據(jù)安全這一企業(yè)應(yīng)用大模型服務(wù)的痛點(diǎn)，騰訊云推出了跨模型數(shù)據(jù)安全和隱私保護(hù)框架，覆蓋數(shù)據(jù)采集、分類分級(jí)評估、訓(xùn)練推理過程中的安全保護(hù)等全流程鏈條。
在內(nèi)容輸入和輸出環(huán)節(jié)，騰訊天御憑借多年內(nèi)容安全的能力，幫助企業(yè)應(yīng)對大模型可能生成的有風(fēng)險(xiǎn)內(nèi)容。騰訊云還建立了大模型安全Red Team對抗機(jī)制，主動(dòng)發(fā)現(xiàn)大模型及生態(tài)存在的風(fēng)險(xiǎn)，并研發(fā)了針對大模型進(jìn)行安全保護(hù)的大模型安全態(tài)勢感知系統(tǒng)AI-SPM和大模型智能安全網(wǎng)關(guān)LLM-WAF，為企業(yè)大模型應(yīng)用提供全生命周期的安全保障。
騰訊還積極參與大模型相關(guān)標(biāo)準(zhǔn)的制定工作。近期，世界數(shù)字技術(shù)院（WDTA）發(fā)布了《生成式人工智能應(yīng)用安全測試標(biāo)準(zhǔn)》和《大語言模型安全測試方法》兩項(xiàng)國際標(biāo)準(zhǔn)，騰訊是這兩項(xiàng)標(biāo)準(zhǔn)的起草單位之一。同時(shí)，騰訊云與CSA云安全聯(lián)盟大中華區(qū)在人工智能方向展開合作，研究大模型安全評估方法，并參與《大模型供應(yīng)鏈安全要求》標(biāo)準(zhǔn)的審核工作。
