5月7日下午，2023西湖論劍·數(shù)字安全大會(huì)（原西湖論劍·網(wǎng)絡(luò)安全大會(huì)）——第十六期網(wǎng)絡(luò)安全創(chuàng)新發(fā)展高端論壇在杭州成功舉辦。中國(guó)工程院院士沈昌祥，國(guó)家信息中心黨委專(zhuān)職副書(shū)記、紀(jì)委書(shū)記吳文化，國(guó)家信息中心信息與網(wǎng)絡(luò)安全部主任楊紹亮，中國(guó)電信集團(tuán)有限公司科技創(chuàng)新部總經(jīng)理、云網(wǎng)基礎(chǔ)設(shè)施安全國(guó)家工程研究中心主任王桂榮，中國(guó)信息協(xié)會(huì)信息安全專(zhuān)業(yè)委員會(huì)主任葉紅，國(guó)家信息技術(shù)安全研究中心原總工程師李京春，中國(guó)電信股份有限公司研究院副院長(zhǎng)、云網(wǎng)基礎(chǔ)設(shè)施安全國(guó)家工程研究中心常務(wù)副主任李安民，北京大學(xué)教授、博導(dǎo)陳鐘，中國(guó)電科首席專(zhuān)家董貴山，國(guó)家信息中心信息與網(wǎng)絡(luò)安全部博士、高級(jí)工程師王佳慧，上海第五空間信息科技研究院理事長(zhǎng)朱易翔，網(wǎng)宿科技副總裁呂士表、安恒信息啟鑒實(shí)驗(yàn)室主任安通鑒等出席本次論壇。
國(guó)家信息中心黨委專(zhuān)職副書(shū)記、紀(jì)委書(shū)記吳文化在致辭中表示，近年來(lái)，全球人工智能產(chǎn)業(yè)呈現(xiàn)蓬勃發(fā)展勢(shì)頭，已經(jīng)成為新一輪科技革命和產(chǎn)業(yè)變革的重要驅(qū)動(dòng)力量，與此同時(shí)，人工智能也顯露出了對(duì)網(wǎng)絡(luò)安全行業(yè)的巨大影響和應(yīng)用潛力，可謂機(jī)遇與挑戰(zhàn)并存。對(duì)此，吳書(shū)記提出三點(diǎn)建議：“一是注重創(chuàng)新引領(lǐng)，搶占人工智能技術(shù)新高地；二是強(qiáng)化需求導(dǎo)向，促進(jìn)人工智能高水平應(yīng)用發(fā)展；三是夯實(shí)安全基礎(chǔ)，堅(jiān)持安全可靠和創(chuàng)新發(fā)展并重。”
中國(guó)電信集團(tuán)有限公司科技創(chuàng)新部總經(jīng)理、云網(wǎng)基礎(chǔ)設(shè)施安全國(guó)家工程研究中心主任王桂榮在致辭中指出，人工智能引領(lǐng)的科技革命浪潮席卷全球，同時(shí)也引發(fā)了業(yè)界對(duì)AI安全的思考和關(guān)注，“AI for Security”、 “Security for AI”以及AI安全倫理等問(wèn)題帶來(lái)了很多全新的挑戰(zhàn)，中國(guó)電信依托工程中心開(kāi)展了一系列的創(chuàng)新探索，同時(shí)也呼吁業(yè)界共同努力，為促進(jìn)安全可靠的人工智能應(yīng)用和發(fā)展貢獻(xiàn)智慧和力量。
中國(guó)信息協(xié)會(huì)信息安全專(zhuān)業(yè)委員會(huì)主任葉紅在致辭中表示，人工智能技術(shù)的創(chuàng)新應(yīng)用，給數(shù)字經(jīng)濟(jì)、數(shù)字政府、數(shù)字社會(huì)發(fā)展帶來(lái)新機(jī)遇，但與此同時(shí)人工智能引發(fā)的數(shù)據(jù)泄露、網(wǎng)絡(luò)攻擊等安全風(fēng)險(xiǎn)日趨凸顯，基于此，建議加強(qiáng)研究，積極應(yīng)對(duì)，一是健全人工智能安全制度體系，二是強(qiáng)化人工智能安全行業(yè)治理，三是深化人工智能核心技術(shù)攻關(guān)。
針對(duì)人工智能的安全發(fā)展，中國(guó)工程院院士沈昌祥提出了構(gòu)筑安全可信人工智能新生態(tài)體系，可以概括為“123456”，即“一種”新模式、“二重”體系結(jié)構(gòu)、“三重”防護(hù)框架、“四要素”可信動(dòng)態(tài)訪(fǎng)問(wèn)控制、“五環(huán)節(jié)”全程管控，“六不”防護(hù)效果，并提出利用可信計(jì)算構(gòu)建主動(dòng)免疫人工智能安全產(chǎn)業(yè)空間。
人工智能作為一種中立技術(shù)，如果被不法分子利用生成攻擊代碼，將會(huì)產(chǎn)生新的威脅。國(guó)家信息技術(shù)安全研究中心原總工程師李京春指出：“應(yīng)對(duì)這種變化，一方面要加強(qiáng)人工智能支持的安全軟件、服務(wù)的研發(fā)；另一方面要落實(shí)可信計(jì)算，保障軟件供應(yīng)鏈和軟件本身的安全，做到開(kāi)發(fā)、安裝、運(yùn)行全生命周期的安全可信。同時(shí)，對(duì)重要數(shù)據(jù)、個(gè)人敏感數(shù)據(jù)保護(hù)要再次敲響警鐘，要加大數(shù)據(jù)安全保護(hù)力度。”
云網(wǎng)基礎(chǔ)設(shè)施安全國(guó)家工程研究中心常務(wù)副主任李安民深刻分析了AI安全的特征內(nèi)涵：AI安全具有“對(duì)象特殊”、“自身演進(jìn)”、“目標(biāo)雙重”三大特征，易引發(fā)“社會(huì)倫理”、“不可解釋性”、“信息泄露”、“風(fēng)險(xiǎn)對(duì)抗”四大風(fēng)險(xiǎn)；其次重點(diǎn)圍繞“大模型安全底座”、“AI安全測(cè)評(píng)平臺(tái)”分享了中國(guó)電信在AI安全領(lǐng)域的創(chuàng)新實(shí)踐；最后結(jié)合AI安全產(chǎn)業(yè)鏈的現(xiàn)狀，倡議發(fā)起AI安全多方合作，開(kāi)展協(xié)同創(chuàng)新和應(yīng)用，共同應(yīng)對(duì)全新的挑戰(zhàn)！
對(duì)于人工智能帶來(lái)的挑戰(zhàn)，北京大學(xué)教授、博導(dǎo)陳鐘認(rèn)為其已經(jīng)從網(wǎng)絡(luò)安全、系統(tǒng)安全、信息安全、數(shù)據(jù)安全上升到了知識(shí)安全，再往下就是行動(dòng)安全。從互聯(lián)到互信，實(shí)質(zhì)是在重塑數(shù)字信任，直面這些挑戰(zhàn)。當(dāng)前研究重點(diǎn)在數(shù)字化轉(zhuǎn)型當(dāng)中需要什么樣的數(shù)字信任，把其中真正的規(guī)律掌握好、運(yùn)用好，為建設(shè)一個(gè)美好的未來(lái)人類(lèi)和經(jīng)濟(jì)社會(huì)發(fā)展做出貢獻(xiàn)。
人工智能的誕生對(duì)數(shù)據(jù)依賴(lài)非常強(qiáng)，而密碼技術(shù)是數(shù)據(jù)安全的基礎(chǔ)。中國(guó)電科首席專(zhuān)家董貴山分享了人工智能的密碼應(yīng)用保障體系，提出要確保人工智能數(shù)據(jù)源的安全、數(shù)據(jù)分析處理平臺(tái)安全、控制指令安全。認(rèn)證和密碼安全服務(wù)要做到為人工智能和數(shù)據(jù)安全的全生命周期、控制性的安全、算法的安全、安全的應(yīng)用等提供可信、可控和可管服務(wù)。
國(guó)家信息中心信息與網(wǎng)絡(luò)安全部博士、高級(jí)工程師王佳慧在演講中介紹了ChatGPT的前世今生，并就當(dāng)前其發(fā)展面臨的難題和限制，以及開(kāi)展的安全性研究進(jìn)行了展開(kāi)。同時(shí)王博士提出ChatGPT可能將朝著大語(yǔ)言模型使用工具的能力以及模型和行動(dòng)相關(guān)聯(lián)兩種趨勢(shì)發(fā)展，對(duì)于企業(yè)來(lái)說(shuō)可以和業(yè)務(wù)場(chǎng)景相結(jié)合也可以服務(wù)整體戰(zhàn)略，對(duì)于個(gè)人而言將和人工智能共同進(jìn)化，同時(shí)Prompt能力至關(guān)重要。
上海第五空間信息科技研究院理事長(zhǎng)朱易翔指出：“當(dāng)前行業(yè)發(fā)展有兩個(gè)趨勢(shì)，一個(gè)是萬(wàn)世萬(wàn)物的智能化，第二個(gè)是萬(wàn)事萬(wàn)物的互聯(lián)。在人工智能時(shí)代，跟‘物’有關(guān)或者說(shuō)智能設(shè)備有關(guān)的場(chǎng)景下，‘身份’十分重要，要把國(guó)密算法要應(yīng)用到安全通信里面去，把新一代數(shù)字身份用到邊緣計(jì)算等場(chǎng)景中。”
邊緣計(jì)算的興起對(duì)網(wǎng)絡(luò)安全的影響十分深遠(yuǎn)，邊緣計(jì)算的核心特點(diǎn)是分布式，用戶(hù)、設(shè)備的接入在全球各地。網(wǎng)宿科技副總裁、首席安全官呂士表認(rèn)為，邊緣計(jì)算安全不僅需要全棧技術(shù)、統(tǒng)一管理，還需要統(tǒng)一平臺(tái)，以及數(shù)據(jù)驅(qū)動(dòng)的方式。
安恒信息啟鑒實(shí)驗(yàn)室主任安通鑒在《大模型(AI)驅(qū)動(dòng)安全技術(shù)變革的思考與實(shí)踐》中分享了基于機(jī)器學(xué)習(xí)和大模型的惡意軟件檢測(cè)、加密流量威脅檢測(cè)引擎、安全防護(hù)的性能提升、基于AI和大模型的軟件供應(yīng)鏈安全、基于AI的釣魚(yú)郵件檢測(cè)引擎、違規(guī)使用大模型場(chǎng)景檢測(cè)等六大AI賦能網(wǎng)絡(luò)安全應(yīng)用。安恒信息在創(chuàng)新前沿技術(shù)的研發(fā)和投入上遠(yuǎn)遠(yuǎn)不止于人工智能，十大實(shí)驗(yàn)室覆蓋了物聯(lián)網(wǎng)安全、漏洞挖掘、人工智能、威脅分析、網(wǎng)絡(luò)空間資產(chǎn)測(cè)繪、入侵分析安全檢測(cè)等多個(gè)關(guān)鍵和熱門(mén)領(lǐng)域。
第十六期網(wǎng)絡(luò)安全創(chuàng)新發(fā)展高端論壇作為2023西湖論劍·數(shù)字安全大會(huì)的兩場(chǎng)最高規(guī)格平行論壇之一，由國(guó)家信息中心主辦，國(guó)家信息中心國(guó)信衛(wèi)士網(wǎng)絡(luò)空間安全研究院、云網(wǎng)基礎(chǔ)設(shè)施安全國(guó)家工程研究中心承辦，中國(guó)信息協(xié)會(huì)信息安全專(zhuān)業(yè)委員會(huì)、中國(guó)電信股份有限公司、安恒信息、上海第五空間信息科技研究院、北京國(guó)信京寧信息安全科技有限公司協(xié)辦。
