當(dāng)前，以人工智能、大數(shù)據(jù)、云計(jì)算、5G等為代表的新一代信息通信技術(shù)發(fā)展日新月異，深刻改變各行各業(yè)的發(fā)展方式，尤其是生成式人工智能正在引發(fā)新一輪智能化浪潮，為經(jīng)濟(jì)注入強(qiáng)勁發(fā)展動(dòng)能，但與此同時(shí)，也帶來(lái)了數(shù)據(jù)泄露、虛假信息、算法歧視等網(wǎng)絡(luò)和信息安全新挑戰(zhàn)、新問(wèn)題。

人工智能安全成為備受關(guān)注的熱點(diǎn)

4月28日，中共中央政治局會(huì)議提出，要重視通用人工智能發(fā)展，營(yíng)造創(chuàng)新生態(tài)，重視防范風(fēng)險(xiǎn)；

7月24日，中共中央政治局會(huì)議再次提出“促進(jìn)人工智能安全發(fā)展”；

《生成式人工智能服務(wù)管理暫行辦法》將于8月15日開(kāi)始實(shí)施；

日前召開(kāi)的第十一屆互聯(lián)網(wǎng)安全大會(huì)（ISC 2023）將主題定為“安全即服務(wù)，開(kāi)啟人工智能時(shí)代數(shù)字安全新范式”。

新機(jī)遇帶來(lái)新挑戰(zhàn)

近年來(lái)，中國(guó)網(wǎng)絡(luò)安全產(chǎn)業(yè)綜合實(shí)力顯著增強(qiáng)。數(shù)據(jù)顯示，2022年中國(guó)網(wǎng)絡(luò)安全產(chǎn)業(yè)規(guī)模近2200億元，截至2022年底，中國(guó)已有21家網(wǎng)絡(luò)安全企業(yè)上市，傳統(tǒng)安全企業(yè)、互聯(lián)網(wǎng)企業(yè)紛紛布局?jǐn)?shù)據(jù)安全賽道。網(wǎng)絡(luò)安全技術(shù)體系持續(xù)完備，零信任、以太坊等信息安全技術(shù)逐步成熟落地。隱私計(jì)算、圖片加密等領(lǐng)域布局加快，網(wǎng)絡(luò)安全與人工智能、云計(jì)算、區(qū)塊鏈、工業(yè)互聯(lián)網(wǎng)融合發(fā)展加速。

但隨著新技術(shù)的發(fā)展，新型威脅也在不斷升級(jí)，網(wǎng)絡(luò)勒索、釣魚(yú)攻擊、數(shù)據(jù)竊取等重大安全事件頻發(fā)。根據(jù)IBM日前發(fā)布的報(bào)告，數(shù)據(jù)泄露的平均成本在2023年達(dá)到歷史新高，為445萬(wàn)美元，這比2022年的435萬(wàn)美元增加了2.3％。全面加強(qiáng)網(wǎng)絡(luò)安全保障體系和能力建設(shè)已經(jīng)成為應(yīng)對(duì)新形勢(shì)、新挑戰(zhàn)的必然之舉。

中國(guó)工程院院士鄔江興介紹，AI應(yīng)用系統(tǒng)中，內(nèi)生安全個(gè)性和共性問(wèn)題往往是交織疊加存在的，既有漏洞、后門(mén)引起的問(wèn)題，又有黑盒效應(yīng)引起的問(wèn)題，交織疊加使得AI應(yīng)用系統(tǒng)的安全問(wèn)題變得極其復(fù)雜，給安全使用和維護(hù)帶來(lái)了前所未有的挑戰(zhàn)。

“推動(dòng)人工智能產(chǎn)業(yè)快速發(fā)展，必須把保障數(shù)據(jù)安全放在突出位置?！笔龑萌珖?guó)政協(xié)經(jīng)濟(jì)委員會(huì)副主任蘇波在ISC 2023開(kāi)幕致辭中表示，要加快人工智能數(shù)據(jù)資源建設(shè)，創(chuàng)新人工智能技術(shù)手段，完善人工智能數(shù)據(jù)安全監(jiān)管體系。

中國(guó)工程院院士鄔賀銓表示，數(shù)字化將逐漸走向智能化高峰，這將開(kāi)啟人工智能時(shí)代，但數(shù)字安全永遠(yuǎn)是魔高一尺，道高一丈，也在不斷地發(fā)展演進(jìn)，傳統(tǒng)安全防護(hù)的手段急需升級(jí)。

新挑戰(zhàn)呼喚新打法

“隨著安全挑戰(zhàn)的不斷升級(jí)，傳統(tǒng)安全方案已經(jīng)難以應(yīng)對(duì)數(shù)字時(shí)代的新挑戰(zhàn)。”360集團(tuán)創(chuàng)始人周鴻祎表示，企業(yè)實(shí)現(xiàn)體系化安全運(yùn)營(yíng)存在缺平臺(tái)、缺探針、缺數(shù)據(jù)、缺專家等問(wèn)題。

推動(dòng)人工智能產(chǎn)業(yè)快速發(fā)展，必須要把數(shù)據(jù)安全放在突出位置。在蘇波看來(lái)，要?jiǎng)?chuàng)新人工智能技術(shù)手段，用技術(shù)進(jìn)步解決安全風(fēng)險(xiǎn)難題，加強(qiáng)人工智能數(shù)據(jù)安全保護(hù)基礎(chǔ)理論研究和技術(shù)研發(fā)，發(fā)展負(fù)責(zé)任、可信任、能受控的通用人工智能。

實(shí)際上，人工智能時(shí)代的安全問(wèn)題，一方面是人工智能應(yīng)用場(chǎng)景下的數(shù)據(jù)安全風(fēng)險(xiǎn)防范，另一方面是將人工智能技術(shù)應(yīng)用在數(shù)據(jù)安全治理與網(wǎng)絡(luò)攻防對(duì)抗中?！叭斯ぶ悄艿葦?shù)字技術(shù)的應(yīng)用本身既是安全防御的重點(diǎn)、手段，也是保障的有力手段?！编w賀銓表示，數(shù)字安全已經(jīng)成為數(shù)字經(jīng)濟(jì)發(fā)展的焦點(diǎn)，需要融合大數(shù)據(jù)、人工智能、互聯(lián)網(wǎng)等技術(shù)，提升保障能力。

“創(chuàng)新是網(wǎng)絡(luò)安全保障能力提升的根本動(dòng)力?！惫I(yè)和信息化部網(wǎng)絡(luò)安全管理局局長(zhǎng)隋靜表示，要圍繞5G、工業(yè)互聯(lián)網(wǎng)、車聯(lián)網(wǎng)等重點(diǎn)領(lǐng)域開(kāi)展關(guān)鍵技術(shù)攻關(guān)，加快強(qiáng)化安全風(fēng)險(xiǎn)感知、監(jiān)測(cè)預(yù)警、實(shí)時(shí)阻斷、追蹤溯源等核心能力；前瞻布局人工智能與網(wǎng)絡(luò)安全技術(shù)融合創(chuàng)新，提高產(chǎn)業(yè)鏈、供應(yīng)鏈韌性和安全水平。

對(duì)于技術(shù)創(chuàng)新，中國(guó)互聯(lián)網(wǎng)協(xié)會(huì)理事長(zhǎng)尚冰表示，互聯(lián)網(wǎng)龍頭企業(yè)要積極開(kāi)展原創(chuàng)性、引領(lǐng)性、基礎(chǔ)性安全技術(shù)攻關(guān)，延伸技術(shù)領(lǐng)域，拓展產(chǎn)品服務(wù)范圍，完善產(chǎn)品矩陣，以創(chuàng)新技術(shù)和產(chǎn)品切入細(xì)分領(lǐng)域，推動(dòng)產(chǎn)品服務(wù)和行業(yè)發(fā)展緊密結(jié)合。

維護(hù)網(wǎng)絡(luò)安全是全社會(huì)的共同責(zé)任，需要各方共同參與，也需要多措并舉。蘇波表示，要加快明確人工智能數(shù)據(jù)安全法律制定，通過(guò)檢測(cè)驗(yàn)證提升人工智能產(chǎn)品的安全性和成熟度，降低人工智能數(shù)據(jù)安全風(fēng)險(xiǎn)。

“要摒棄硬件式、碎片化、弱協(xié)同的傳統(tǒng)安全防護(hù)手段，向云化、服務(wù)化的理念升級(jí)。”鄔賀銓表示，數(shù)字安全企業(yè)需要建立體系化的安全運(yùn)營(yíng)服務(wù)框架，面向各行各業(yè)輸出數(shù)字安全能力，幫助企業(yè)構(gòu)建安全防御體系，保護(hù)數(shù)據(jù)安全與商業(yè)秘密。