隨著大型人工智能模型的興起，安全防護策略正經歷前所未有的變革。如今，智能體在處理安全領域的復雜挑戰(zhàn)時，展現(xiàn)出了日益增強的能力。
據(jù)Fortinet中國區(qū)技術總監(jiān)張略介紹，借助安全智能體，企業(yè)安全運維人員僅需片刻時間，便能識別并解決原本需要耗費數(shù)小時甚至更久的網絡安全問題。然而，他也強調，最終決策仍需企業(yè)安全運營人員來做出。
從整個行業(yè)視角來看，人工智能對安全領域的重塑已頗為顯著。但問題是，從“輔助駕駛”邁向“全自動駕駛”，安全智能體還需跨越多少距離？
根據(jù)SUSE的統(tǒng)計數(shù)據(jù)，隱私和數(shù)據(jù)安全（57%）以及人工智能驅動的網絡攻擊（55%）已成為生成式AI云安全的首要威脅，僅有7%的IT決策者認為不存在相關風險。Gartner則預測，到2025年，生成式AI的廣泛應用將導致企業(yè)所需的網絡安全資源大幅增加，應用和數(shù)據(jù)安全支出將上漲15%以上。
AI大模型在帶來便利的同時，也為不法分子提供了新的高效攻擊手段。當前，安全行業(yè)內一個普遍認可的觀點是——用AI來對抗AI。自大型模型問世以來，安全行業(yè)迅速成為首批主動接納這一技術的領域。在此背景下，安全行業(yè)正從產品銷售轉向服務銷售。
面對日益復雜的安全挑戰(zhàn)，企業(yè)級安全理念和產品的迭代速度顯著提升，企業(yè)對網絡安全防護措施的需求也在不斷變化。最明顯的趨勢是從簡單的安全產品堆疊，轉向尋求統(tǒng)一平臺化的解決方案。
Fortinet中國區(qū)總經理李宏凱認為，安全智能體已經出現(xiàn)，并開始助力企業(yè)級用戶應對日益復雜的安全事件。張略則指出，安全行業(yè)應用AI技術已經歷了三個階段。第一階段大約始于2010年，當時機器學習與深度學習剛開始在安全領域得到應用，大多數(shù)安全產品各自為戰(zhàn)，企業(yè)主要依賴基礎安全產品與服務。第二階段，隨著生成式AI的出現(xiàn)，AI深度融入攻防全鏈條，實現(xiàn)自動化威脅檢測、響應與預測，形成智能防御體系，但在此之前，AI主要起單點輔助作用。第三階段，即當前及未來很長一段時間內安全行業(yè)的重點——安全智能體。在這一階段，AI技術已從輔助工具升級為安全體系的“中樞大腦”，通過安全智能體，企業(yè)可以將原本分散的安全產品與能力整合，形成聯(lián)動防御，并通過AI動態(tài)學習攻擊模式，實現(xiàn)主動防御。
傳統(tǒng)上，企業(yè)傾向于采購業(yè)內最佳的單點產品以應對具體安全問題，并希望通過不同供應商優(yōu)秀產品的疊加組合來覆蓋安全需求的各個層面。然而，隨著安全局勢的變化，以及AI帶來的更頻繁、高效的攻擊，企業(yè)逐漸意識到，堆疊式安全單品難以應對日益復雜的網絡威脅。用戶開始希望整合多種安全功能于統(tǒng)一平臺，以增強威脅檢測與響應能力，降低管理復雜度，提升安全運營效率。
張略表示，未來一方面，構建一體化的安全體系將成為關鍵和主流趨勢；另一方面，在一體化趨勢下，如何將安全服務商與IT服務商融合，讓AI智能體真正實現(xiàn)萬物互聯(lián)，并實現(xiàn)以安全為目標的自動化和自主運營，將成為安全行業(yè)的重中之重。
這一觀點并非Fortinet獨有，一體化的安全防護體系已成為幾乎所有安全服務商的共同目標。這一體系及相應的安全能力，最終呈現(xiàn)出的產品形態(tài)即為安全運營。安全運營是指通過安全產品或服務提升企業(yè)信息安全能力的一系列管理過程，包括需求、設計、運行、監(jiān)控、改進等，從系統(tǒng)化角度對企業(yè)整體安全進行運營管理。
雖然安全運營的概念已存在多年，但隨著安全智能體的逐漸成熟，如今的安全運營已今非昔比。通過安全智能體，不僅能快速篩查和解決安全問題，還能幫助企業(yè)將人力資源重點放在推動業(yè)務發(fā)展上。
以服務器告警為例，安全智能體通過分析服務器日志發(fā)現(xiàn)內網IP地址報警，進而自動化查詢主機進程并發(fā)現(xiàn)可疑IP地址，通過威脅情報庫查詢并確認服務器被感染。隨后，安全智能體調查攻擊詳情，找出漏洞，為安全運營人員提供處理建議。最后，由安全運營人員選擇操作后，安全智能體解決告警，并通過這次攻擊進行溯源，將其納入知識庫，以防下次類似事件的發(fā)生。
為了確保生成式AI技術的普及不增加工作人員的操作難度，F(xiàn)ortinet推出的FortiAI允許安全運營人員通過簡單對話形式，經過簡單培訓即可上手操作，提供了便捷能力，同時未增加整體操作難度。
然而，安全智能體雖好，但仍處于發(fā)展階段，專業(yè)性和安全性是兩大嚴峻挑戰(zhàn)。一方面，模型本身的安全性，如何避免幻覺、確保合規(guī)、避免不良信息等問題；另一方面，大模型也面臨數(shù)據(jù)安全、網絡安全的挑戰(zhàn)。對于安全行業(yè)大模型/智能體而言，在保護用戶網絡和數(shù)據(jù)的同時，其自身的安全及專業(yè)性問題亟需解決。
張略指出，為了確保模型訓練數(shù)據(jù)的安全，行業(yè)常見做法是從企業(yè)內部挖掘高質量數(shù)據(jù)，通過專家監(jiān)督學習強化AI能力。對于安全行業(yè)而言，安全服務商長期積累的安防經驗和實時攻防數(shù)據(jù)成為核心競爭力。同時，安全智能體需深入理解行業(yè)特有風險模式，但多數(shù)通用模型缺乏領域知識注入，這需要安全服務商利用自身經驗和數(shù)據(jù)來彌補。
從目前應用來看，張略表示，安全智能體在自動化安全防護過程中，最終輸出結果仍需企業(yè)安全運營人員確認。生成式AI仍是統(tǒng)計學科學，不具備自我糾錯能力，因此目前解決幻覺問題最穩(wěn)妥的做法是在最終環(huán)節(jié)加上人工確認。
