人工智能技術(shù)的迅猛發(fā)展，在為經(jīng)濟(jì)社會(huì)發(fā)展注入強(qiáng)勁動(dòng)力的同時(shí)，也悄然成為不法分子手中的新型工具。近期，山西省忻州市發(fā)生的一起利用AI換臉技術(shù)實(shí)施的電話詐騙案，涉案金額高達(dá)兩萬元，再次敲響了人工智能安全警鐘。
隨著DeepSeek等開源平臺(tái)的興起，人工智能技術(shù)門檻大幅降低，各類差異化應(yīng)用如雨后春筍般涌現(xiàn)。然而，這種普及也帶來了前所未有的安全隱患。從開發(fā)層的供應(yīng)鏈安全危機(jī)，到應(yīng)用層的對(duì)抗性攻擊升級(jí)，再到數(shù)據(jù)收集與訓(xùn)練中的濫用風(fēng)險(xiǎn)，每一個(gè)環(huán)節(jié)都可能成為不法分子的攻擊目標(biāo)。
據(jù)統(tǒng)計(jì)，全球范圍內(nèi)由大模型安全事件導(dǎo)致的經(jīng)濟(jì)損失正急劇上升。從2023年的85億美元，到2024年的143億美元，預(yù)計(jì)2025年這一數(shù)字將突破235億美元。面對(duì)這一嚴(yán)峻形勢(shì)，我國(guó)相關(guān)部門迅速行動(dòng)，出臺(tái)了一系列法規(guī)文件，如《生成式人工智能服務(wù)管理暫行辦法》和《人工智能安全治理框架》，旨在法治軌道上加強(qiáng)人工智能治理。
在此背景下，安全產(chǎn)業(yè)正加速邁入AI定義的新時(shí)代。中國(guó)電信作為行業(yè)領(lǐng)軍企業(yè)，全面擁抱AI技術(shù)，積極推動(dòng)“云改數(shù)轉(zhuǎn)智惠”戰(zhàn)略升級(jí)。在構(gòu)建高水平AI安全保障體系的過程中，中國(guó)電信不僅注重技術(shù)創(chuàng)新，更將安全視為發(fā)展的前提。目前，公司已初步構(gòu)建起涵蓋算力底座安全、算法模型安全、數(shù)據(jù)安全和應(yīng)用安全的一體化AI安全智能架構(gòu)。
中國(guó)電信在2025世界人工智能大會(huì)上宣布，其“星辰·見微”安全大模型的提示注入攻擊檢測(cè)模塊正式開源。這是首個(gè)聚焦中文場(chǎng)景的提示注入攻擊檢測(cè)開源方案，具備精準(zhǔn)識(shí)別能力強(qiáng)、深度適配信創(chuàng)生態(tài)等技術(shù)亮點(diǎn)，為中文環(huán)境下的AI安全防護(hù)提供了有力支持。
中國(guó)電信還將AI技術(shù)深度融入服務(wù)中，致力于筑牢民生安全防線。例如，“星小辰”AI通話助手便是依托中國(guó)電信的通話業(yè)務(wù)打造的一款創(chuàng)新產(chǎn)品，它支持通話防詐、AI代接、通話摘要代辦、智能字幕等多種功能，為用戶提供全方位的通話安全保障。
在推動(dòng)人工智能安全發(fā)展的過程中，開放合作是不可或缺的一環(huán)。中國(guó)電信深知這一點(diǎn)，因此積極與高校、科研機(jī)構(gòu)等開展產(chǎn)學(xué)研合作，共同推進(jìn)人工智能安全技術(shù)的研發(fā)與應(yīng)用。例如，公司與哈爾濱工業(yè)大學(xué)（深圳）聯(lián)合成立的“網(wǎng)絡(luò)空間對(duì)抗技術(shù)聯(lián)合攻關(guān)研究實(shí)驗(yàn)室”，便是產(chǎn)學(xué)研深度融合的典范。
不僅如此，在2025世界人工智能大會(huì)上，中國(guó)信息通信研究院、中國(guó)電子信息產(chǎn)業(yè)發(fā)展研究院、清華大學(xué)、上海人工智能實(shí)驗(yàn)室等四家核心機(jī)構(gòu)還聯(lián)合發(fā)布了《中國(guó)人工智能安全承諾框架》。該框架在AIIA《人工智能安全承諾》的基礎(chǔ)上，新增了加強(qiáng)人工智能安全治理國(guó)際合作、防范前沿人工智能安全風(fēng)險(xiǎn)等內(nèi)容，旨在推動(dòng)人工智能產(chǎn)業(yè)朝著有益、安全、公平的方向健康有序發(fā)展。
人工智能的浪潮洶涌澎湃，安全始終是這一過程中的一道重要防線。面對(duì)不斷升級(jí)的安全挑戰(zhàn)，產(chǎn)業(yè)各方需要持續(xù)秉持開放合作、創(chuàng)新突破的理念，共同推動(dòng)人工智能技術(shù)的健康發(fā)展。
