在數(shù)字時代浪潮中，人工智能（AI）正以前所未有的速度重塑各行各業(yè)，特別是在網(wǎng)絡(luò)安全領(lǐng)域，其角色與影響力正經(jīng)歷深刻變革。近期，在北京舉辦的ISC.AI 2025第十三屆互聯(lián)網(wǎng)安全大會上，眾多專家聚焦AI技術(shù)的雙刃劍效應(yīng)，探討了如何利用智能體這一新興概念，應(yīng)對日益嚴峻的網(wǎng)絡(luò)安全挑戰(zhàn)。
智能體，作為一種能夠感知環(huán)境、自主決策并行動的AI實體，正逐漸從理論走向?qū)嵺`。它們不僅能圍繞特定目標(biāo)自動規(guī)劃任務(wù)步驟，還能操作軟件獲取信息或服務(wù)，并隨著經(jīng)驗積累不斷提升能力。這一特性，使得智能體在網(wǎng)絡(luò)安全領(lǐng)域展現(xiàn)出巨大潛力，成為從傳統(tǒng)安全助手向全方位“數(shù)字員工”轉(zhuǎn)變的關(guān)鍵。
大會上，多位專家指出，AI技術(shù)雖然為網(wǎng)絡(luò)安全帶來了革新機遇，但同時也加劇了風(fēng)險。黑客組織利用AI訓(xùn)練出智能體黑客，將人與人的網(wǎng)絡(luò)攻防轉(zhuǎn)變?yōu)槿伺c智能體的較量，極大地提升了攻擊的復(fù)雜性和隱蔽性。全球范圍內(nèi)網(wǎng)絡(luò)攻擊事件的激增，凸顯了加強網(wǎng)絡(luò)安全措施、提高對新威脅響應(yīng)能力的緊迫性。
針對這一現(xiàn)狀，專家們強調(diào)，應(yīng)充分利用AI大模型的強大能力，推動安全防御模式的根本性變革。通過智能體賦能威脅狩獵、異常檢測與自動化響應(yīng)，實現(xiàn)從“事后補救”到“事前預(yù)警、事中阻斷”的主動免疫模式轉(zhuǎn)變。同時，加強AI系統(tǒng)自身的安全研究，建立全生命周期的安全評估機制，確保技術(shù)創(chuàng)新在安全可控的軌道上發(fā)展。
360集團創(chuàng)始人周鴻祎在大會上分享了智能體在網(wǎng)絡(luò)安全領(lǐng)域的顛覆性影響。他指出，安全智能體作為安全運營專家的數(shù)字替身，能夠高效應(yīng)對日常運營工作，彌補人才短缺問題。通過部署安全智能體，政企單位可以快速擁有數(shù)十個虛擬安全專家，重新掌握防御主動權(quán)。智能體還能適應(yīng)新型對抗模式，實現(xiàn)“機器對機器、模型對模型”的防御策略。
周鴻祎還提出了智能體演進的五級路徑，從L1級的聊天助手到L5級的超級智能體，智能體的能力將逐漸增強，從提供建議到自主完成任務(wù)，再到多智能體協(xié)作，最終實現(xiàn)自我規(guī)劃和進化。這一演進路徑不僅展示了智能體在網(wǎng)絡(luò)安全領(lǐng)域的應(yīng)用前景，也為其他行業(yè)提供了借鑒。
然而，智能體并非完美無缺。周鴻祎指出，智能體在模擬人類智能的同時，也繼承了人類的缺點，如幻覺、出錯、工作倦怠等。特別是當(dāng)智能體執(zhí)行任務(wù)步驟增多時，錯誤率會明顯上升，這被稱為“倦怠”現(xiàn)象。為解決這一問題，需要設(shè)置自我校正功能進行自查，并通過多智能體協(xié)作提高整體效率。
隨著智能體的普及，外界對于AI最終演化為“人類終結(jié)者”的擔(dān)憂也日益增加。周鴻祎表示，這種擔(dān)憂并非空穴來風(fēng)。智能體一旦設(shè)定目標(biāo)，就可能采取一切手段實現(xiàn)目標(biāo)，包括與人類對抗。因此，如何確保AI技術(shù)的安全可控發(fā)展，成為人類面臨的終極安全問題。他提出“以模制模”的思路，即通過大模型對大模型進行分析和控制，以應(yīng)對這一挑戰(zhàn)。
