作者 | 張倩茹來源 | 零壹智庫

“必須強(qiáng)調(diào)的是，安全科技并不是一個(gè)純商業(yè)范圍的議題，而是清晰的具備公共品的特征。”

隨著科技的進(jìn)步，數(shù)字化已成為越來越清晰的現(xiàn)實(shí)。不僅僅互聯(lián)網(wǎng)，幾乎所有的行業(yè)都在擁抱數(shù)字化浪潮，隨之而來的安全風(fēng)險(xiǎn)也呈現(xiàn)愈演愈烈之勢。

據(jù)Flashpoint發(fā)布的數(shù)據(jù)顯示，僅2022年，全球發(fā)生的數(shù)據(jù)泄露事件就高達(dá)4518件，數(shù)據(jù)量更是達(dá)到226.2億條。

“數(shù)字化安全風(fēng)險(xiǎn)已經(jīng)進(jìn)入到快迭代、高智能、全覆蓋的新階段。”中國社會科學(xué)院大學(xué)數(shù)字中國研究院聯(lián)合螞蟻集團(tuán)等對外發(fā)布的《數(shù)字時(shí)代安全科技價(jià)值報(bào)告》（以下簡稱“《報(bào)告》”）中指出，2023年AI大模型橫空出世，大大推進(jìn)了深度智能時(shí)代的到來，它對安全局面的影響可能是顛覆性的。當(dāng)下，我們正站在安全風(fēng)險(xiǎn)的質(zhì)變時(shí)刻。

在這個(gè)全新階段，安全科技的重要性不言而喻，對安全科技的關(guān)注與投入已刻不容緩。安全科技作為“壓艙石”和“助燃劑”，一方面要守住技術(shù)的安全底線，另一方面要讓新技術(shù)規(guī)模化落地，推動(dòng)產(chǎn)業(yè)煥發(fā)新機(jī)。

《報(bào)告》認(rèn)為，安全科技將會是未來的通用技術(shù)之一，應(yīng)該以公共品的定位來判斷安全科技的價(jià)值，推動(dòng)其發(fā)展，而政企合作是安全科技成為公共品的核心驅(qū)動(dòng)力。

 01 

質(zhì)變時(shí)刻

“2008年以來，中國數(shù)字經(jīng)濟(jì)發(fā)展指數(shù)呈現(xiàn)出爆發(fā)式增長態(tài)勢。”零壹智庫在《中國數(shù)字經(jīng)濟(jì)發(fā)展指數(shù)報(bào)告（2023）》中指出，2008-2022年，中國數(shù)字經(jīng)濟(jì)發(fā)展指數(shù)從100上升至572.26，年復(fù)合增長率達(dá)13.27%，遠(yuǎn)高于同期9.48%的經(jīng)濟(jì)發(fā)展增速。

另據(jù)中國信通院的數(shù)據(jù)，2022年我國數(shù)字經(jīng)濟(jì)規(guī)模首次突破50萬億元大關(guān)，達(dá)到50.2萬億元，占GDP比重提升至41.5%。

伴隨著數(shù)字經(jīng)濟(jì)的快速發(fā)展，新一代信息化數(shù)字技術(shù)與傳統(tǒng)行業(yè)快速融合，帶來了更加隱蔽、復(fù)雜的數(shù)字安全風(fēng)險(xiǎn)，數(shù)據(jù)泄漏、勒索軟件、黑客攻擊等事件層出不窮。

人工智能技術(shù)大爆發(fā)之后，“算法安全”“虛假信息”“數(shù)據(jù)歧視”等問題持續(xù)突出，數(shù)字安全風(fēng)險(xiǎn)面臨著日趨嚴(yán)峻的挑戰(zhàn)。

2023年下半年，國際身份軟件巨頭Okta業(yè)務(wù)系統(tǒng)遭到黑客攻擊，導(dǎo)致客戶敏感數(shù)據(jù)泄露；此外，《蜘蛛俠2》開發(fā)商Insomniac Games聲稱遭受攻擊，大量內(nèi)部信息被泄露。

除了企業(yè)之外，政府機(jī)構(gòu)也面臨各類數(shù)字風(fēng)險(xiǎn)。2023年9月，美國國家安全委員會被報(bào)道泄露了其成員的近萬封電子郵件和密碼，暴露了包括美國國家航空航天局和特斯拉等在內(nèi)的2000家機(jī)構(gòu)和公司。

生成式AI的出現(xiàn)導(dǎo)致新聞更加容易以假亂真。世界經(jīng)濟(jì)論壇在《2024年全球風(fēng)險(xiǎn)報(bào)告》中發(fā)出警告：在未來兩年的風(fēng)險(xiǎn)展望中，由于信息錯(cuò)誤與虛假信息所帶來的影響的嚴(yán)重程度，超過經(jīng)濟(jì)衰退等其他九項(xiàng)風(fēng)險(xiǎn)，位列十大風(fēng)險(xiǎn)的第一位。

在這樣的背景下，安全科技的發(fā)展有了“緊迫性”和“必要性”，“剛需”特質(zhì)顯現(xiàn)。

從定義來講，安全科技包含系統(tǒng)安全、網(wǎng)絡(luò)安全、數(shù)據(jù)安全、業(yè)務(wù)安全、AI安全等范疇，它是一系列旨在保護(hù)信息、網(wǎng)絡(luò)和計(jì)算機(jī)系統(tǒng)免受未經(jīng)授權(quán)的訪問、攻擊和威脅的工具、技術(shù)和系統(tǒng)，其市場涵蓋了硬件、軟件和服務(wù)。

圖1：安全科技全景圖

圖片來源：社科院團(tuán)隊(duì)《數(shù)字時(shí)代安全科技價(jià)值報(bào)告》

事實(shí)上，在相當(dāng)長一段時(shí)間里，網(wǎng)絡(luò)安全即安全科技。《報(bào)告》指出，隨著數(shù)字化的深入，越來越多的細(xì)分領(lǐng)域涌現(xiàn)出來，使得傳統(tǒng)的“網(wǎng)絡(luò)安全”概念難以覆蓋，而安全科技這個(gè)詞在這樣一個(gè)轉(zhuǎn)型期中被提出，用以關(guān)涉多個(gè)領(lǐng)域的技術(shù)和理念。

從時(shí)間上劃分，安全科技的發(fā)展可以大致分成三個(gè)階段：

1、本地保護(hù)階段（20世紀(jì)70年代至2000年代初期）：這一時(shí)期的安全科技主要基于密碼學(xué)和防火墻技術(shù)，其保護(hù)的對象是網(wǎng)絡(luò)相關(guān)的基礎(chǔ)設(shè)施。

2、網(wǎng)絡(luò)保護(hù)階段（2000年代中期至2010年代中期）：此時(shí)以入侵檢測、反病毒和漏洞掃描等技術(shù)為代表的網(wǎng)絡(luò)安全是主流。

3、智能保護(hù)階段（2010年代中期至今）：安全科技開始向智能化、自適應(yīng)、自愈合等方向發(fā)展，并從技術(shù)擴(kuò)展到管理，從靜態(tài)擴(kuò)展到動(dòng)態(tài)，通過各種安全技術(shù)和安全管理措施的綜合融合，構(gòu)建深度的主動(dòng)的防御體系。

“本質(zhì)上，安全科技是一種伴生技術(shù)。它永遠(yuǎn)在面向新科技，面向新發(fā)展。”浙江工業(yè)大學(xué)網(wǎng)絡(luò)空間安全研究院院長宣琦接受報(bào)告調(diào)研時(shí)表示，不管是哪個(gè)新技術(shù)在推進(jìn)過程中形成了新的安全問題，比如面向人工智能，就會提出智能安全，面向生物科技，就會提出生物安全。新技術(shù)的發(fā)展有時(shí)候非�？焖伲�所以安全技術(shù)的發(fā)展和創(chuàng)新也同樣在高速變動(dòng)。

這樣的變動(dòng)體現(xiàn)到市場發(fā)展方面，同樣是“高速”的。據(jù)IDC發(fā)布的報(bào)告，2021年全球網(wǎng)絡(luò)安全I(xiàn)T（互聯(lián)網(wǎng)技術(shù)）總投資規(guī)模為1689億美元，并有望在2026年增至2876億美元，5年復(fù)合增速為11.3%。

聚焦到中國市場，5年復(fù)合增速約達(dá)21.2%，接近全球平均復(fù)合增速的兩倍。具體數(shù)據(jù)顯示，2026年中國網(wǎng)絡(luò)安全I(xiàn)T支出規(guī)模將達(dá)到318.6億美元，全球占比約為11.1%。

除了市場規(guī)模增長優(yōu)勢，我國在安全領(lǐng)域的技術(shù)優(yōu)勢也較為明顯。

根據(jù)全球權(quán)威知識產(chǎn)權(quán)機(jī)構(gòu)IPRdaily發(fā)布的《安全科技專利分析報(bào)告》顯示，中國和美國共計(jì)擁有全球77%的安全科技專利。

截至2023年4月，中國是全球安全科技發(fā)明專利的最主要布局國家，共擁有專利申請數(shù)20445件，為第二名美國的2.23倍。

其中，科技型骨干企業(yè)成為安全科技專利的主力軍，螞蟻集團(tuán)、華為、騰訊集團(tuán)、國家電網(wǎng)、中興、中國工商銀行、中國移動(dòng)位居全球安全科技專利申請前十名。螞蟻集團(tuán)憑借其在交易安全、隱私安全領(lǐng)域優(yōu)勢，以3806項(xiàng)專利數(shù)，位列全球榜首。

圖2：全球安全科技專利TOP 10申請主體

圖片來源：IPRdaily于2023年7月發(fā)布的《安全科技專利分析報(bào)告》

 02 

新型公共品

就像現(xiàn)代人類離不開水電氣一樣，安全科技也是數(shù)字經(jīng)濟(jì)時(shí)代不可或缺的基礎(chǔ)設(shè)施。隨著人工智能、量子計(jì)算等新技術(shù)的發(fā)展和應(yīng)用，新型風(fēng)險(xiǎn)與安全科技的攻防也將無所不在。

“必須強(qiáng)調(diào)的是，安全科技并不是一個(gè)純商業(yè)范圍的議題，而是清晰的具備公共品的特征。”

安全科技的價(jià)值，體現(xiàn)在兩個(gè)方面。一是守住技術(shù)的安全底線，防御可能存在的風(fēng)險(xiǎn)隱患，即當(dāng)好“壓艙石”；二是提高技術(shù)的安全上限，降低技術(shù)運(yùn)行的成本，讓新技術(shù)得以規(guī)�；�落地，即做好“助燃劑”。

圖3：安全科技的雙重價(jià)值

圖片來源：社科院團(tuán)隊(duì)《數(shù)字時(shí)代安全科技價(jià)值報(bào)告》

《報(bào)告》指出，從產(chǎn)品運(yùn)作層面來看，防病毒軟件、入侵防御系統(tǒng)等商業(yè)安全系統(tǒng)是私有產(chǎn)品，但威脅情報(bào)、漏洞信息共享、隱私計(jì)算、基礎(chǔ)設(shè)施保護(hù)等技術(shù)和平臺，都具有明顯的公共品屬性。

雖然長期以來，安全科技屬于商業(yè)和技術(shù)界的話題，個(gè)人和社會在其中缺乏足夠的表達(dá)。但安全科技的完整內(nèi)涵不只是對攻擊者的防御體系，還包括保護(hù)平等發(fā)展、社會團(tuán)結(jié)與個(gè)人尊嚴(yán)的技術(shù)與服務(wù)。

《報(bào)告》認(rèn)為安全科技成為公共品的推動(dòng)力來自四個(gè)方面：合規(guī)激勵(lì)、商業(yè)保險(xiǎn)、標(biāo)準(zhǔn)建設(shè)、安全思維。

合規(guī)激勵(lì)。當(dāng)前，大多數(shù)企業(yè)往往更傾向于把資源投入到IT研發(fā)而不是安全保障上。在大部分企業(yè)自身沒有直接動(dòng)力來投入安全時(shí)，需要政府通過合規(guī)者的角度來推動(dòng)相關(guān)的保障投入。

商業(yè)保險(xiǎn)。商業(yè)領(lǐng)域的創(chuàng)新是落實(shí)合規(guī)的重要助手。網(wǎng)絡(luò)安全保險(xiǎn)能有效幫助建立數(shù)字安全事件評估及賠償標(biāo)準(zhǔn)，這一細(xì)分賽道前景廣闊。

數(shù)據(jù)顯示，2019年，全球網(wǎng)絡(luò)安全保險(xiǎn)保費(fèi)達(dá)到73.6億美元，同比增長71%。根據(jù)安聯(lián)保險(xiǎn)集團(tuán)預(yù)測，到2025年，網(wǎng)絡(luò)安全保險(xiǎn)市場規(guī)模將達(dá)到200億美元。

圖4：全球網(wǎng)絡(luò)安全保險(xiǎn)保費(fèi)增長情況（單位：億美元）

數(shù)據(jù)來源：央行南京分行科技處課題組《網(wǎng)絡(luò)安全保險(xiǎn)發(fā)展的實(shí)踐與建議》，安聯(lián)保險(xiǎn)，零壹智庫制圖

標(biāo)準(zhǔn)建設(shè)，同樣是一個(gè)生態(tài)合作的范疇，借助政府、頭部機(jī)構(gòu)與企業(yè)的帶頭作用，為全社會的安全技術(shù)建設(shè)提供標(biāo)準(zhǔn)。

安全思維，是指以人為本的安全設(shè)計(jì)、運(yùn)維與建設(shè)并重的安全構(gòu)建。數(shù)據(jù)顯示，95%的網(wǎng)絡(luò)安全漏洞是由人為錯(cuò)誤造成的。以人為本的安全設(shè)計(jì)要求在整個(gè)安全風(fēng)險(xiǎn)的控制管理流程中，優(yōu)先考慮參與者的體驗(yàn)，而不僅僅是技術(shù)考慮。

運(yùn)維與建設(shè)并重的安全構(gòu)建，針對的是當(dāng)前我國在安全方面的一個(gè)普遍傾向，即企業(yè)和政府部門構(gòu)建信息化系統(tǒng)時(shí)，普遍存在“重建設(shè)輕運(yùn)營”現(xiàn)象。因此，我們的安全構(gòu)建思維，要從傳統(tǒng)的硬件模式，轉(zhuǎn)向更偏重軟件的服務(wù)模式。

 03 

新形勢

“過去說到AI應(yīng)用，都是比較‘虛’的；但現(xiàn)在AI在各個(gè)行業(yè)的應(yīng)用，變成了一個(gè)非�，F(xiàn)實(shí)的情形。”

香港科技大學(xué)副校長汪揚(yáng)表示，大語言模型是人類的財(cái)富，它在一些垂直領(lǐng)域的應(yīng)用發(fā)展，或許會顛覆整個(gè)數(shù)字經(jīng)濟(jì)，而且會產(chǎn)生嶄新的模式，帶領(lǐng)我們進(jìn)入經(jīng)濟(jì)發(fā)展的下一段路程。

而在這一段路程上，除了機(jī)遇，還充滿了風(fēng)險(xiǎn)。

有新技術(shù)的地方，就有新的安全風(fēng)險(xiǎn)。2023年年底，杭州上城區(qū)網(wǎng)警破獲一起重大勒索病毒案件，犯罪團(tuán)伙成員均有網(wǎng)絡(luò)安防相關(guān)資質(zhì)，且有供職大型網(wǎng)絡(luò)科技公司經(jīng)歷，他們在實(shí)施犯罪過程中借助ChatGPT進(jìn)行程序優(yōu)化，犯罪手段相當(dāng)“與時(shí)俱進(jìn)”。

ChatGPT爆火了一年多，在帶動(dòng)大模型和人工智能賽道起飛的同時(shí)，也讓全球業(yè)界更加擔(dān)心日益凸顯的AI安全風(fēng)險(xiǎn)。

《報(bào)告》將AI安全風(fēng)險(xiǎn)分為三類：第一是內(nèi)生安全，像“數(shù)據(jù)偏見”“觀點(diǎn)霸權(quán)”“決策黑盒化”等問題屬于這一類。

針對“決策黑盒化”，螞蟻集團(tuán)副總裁、首席技術(shù)安全官韋韜表示，深黑盒化，也就是AI大模型分析決策出現(xiàn)不確定性和不可知性，這帶來了三大新挑戰(zhàn)：第一層是認(rèn)知一致性對齊；第二層是決策如何白盒化；第三層是如何讓交流協(xié)同演進(jìn)。

第二是衍生安全問題，即人工智能系統(tǒng)失誤可能引發(fā)一些重大安全事故。如生成虛假新聞、深度合成偽造進(jìn)行詐騙與釣魚攻擊，侵犯他人肖像權(quán)、隱私權(quán)，涉及人身安全、隱私保護(hù)、軍事與國家安全、倫理道德和法律規(guī)范等一系列與社會治理有關(guān)的挑戰(zhàn)性問題。

第三是外生安全問題，也就是面向人工智能系統(tǒng)的外部網(wǎng)絡(luò)攻擊對抗。一方面，數(shù)字化、網(wǎng)絡(luò)化程度越高，可被攻擊的部位、結(jié)點(diǎn)就越多；對數(shù)字技術(shù)的依賴程度越高，網(wǎng)絡(luò)破壞造成的后果就越嚴(yán)重。另一方面，黑灰產(chǎn)攻擊模式也隨著業(yè)務(wù)創(chuàng)新、新科技引入，逐漸呈現(xiàn)專業(yè)化、多樣化、智能化、產(chǎn)業(yè)化的特點(diǎn)。

圖5：人工智能安全的三大類別

圖片來源：社科院團(tuán)隊(duì)《數(shù)字時(shí)代安全科技價(jià)值報(bào)告》

“技術(shù)是把雙刃劍”，安全科技就是打造足夠安全的“刀鞘”。過去幾年，微軟、谷歌、螞蟻集團(tuán)、騰訊等不少科技公司紛紛投入可信AI的研究和應(yīng)用。像螞蟻集團(tuán)自2015年起研發(fā)可信AI技術(shù)，已解決了風(fēng)控場景中的諸多難題。

螞蟻集團(tuán)安全實(shí)驗(yàn)室首席科學(xué)家、可信AI負(fù)責(zé)人王維強(qiáng)曾表示，大模型安全既要“快”也要“慢”。在安全防御方面要“快”，要能快速檢測、查殺病毒，確保服務(wù)無毒害；在安全可信方面要“慢”，要能長遠(yuǎn)地、體系化地保證整個(gè)系統(tǒng)環(huán)境的可控、可信。

大模型風(fēng)險(xiǎn)的一個(gè)可能路徑存在于預(yù)訓(xùn)練的大規(guī)模數(shù)據(jù)中，如果數(shù)據(jù)本身“有毒”，帶有在偏見和歧視，或有虛假信息等質(zhì)量問題，那么大模型輸出的內(nèi)容就存在安全問題。

另一個(gè)渠道是行業(yè)領(lǐng)域微調(diào)的過程中涉及到的一些標(biāo)注，也可能有誘導(dǎo)錯(cuò)誤的人類對齊、錯(cuò)誤價(jià)值導(dǎo)向的惡意標(biāo)注，不可靠的低質(zhì)量標(biāo)注和缺少多樣性的固化標(biāo)注，這類標(biāo)注都會帶來安全風(fēng)險(xiǎn)。

在實(shí)踐應(yīng)用中，針對大模型的安全風(fēng)險(xiǎn)，業(yè)界已有“大模型質(zhì)檢”類安全產(chǎn)品推出。2023年9月，螞蟻集團(tuán)宣布推出一項(xiàng)名為“蟻天鑒”的全新大模型安全一體化解決方案。這一解決方案包含兩個(gè)關(guān)鍵產(chǎn)品：大模型安全檢測平臺“蟻鑒2.0”和大模型風(fēng)險(xiǎn)防御平臺“天鑒”，為大規(guī)模AI模型的安全保障帶來了全新的突破。

圖6：螞蟻大模型安全實(shí)踐

圖片來源：社科院團(tuán)隊(duì)《數(shù)字時(shí)代安全科技價(jià)值報(bào)告》，螞蟻“蟻天鑒”大模型安全方案

再比如，螞蟻數(shù)科安全科技品牌“蟻盾（ZOLOZ）”與中鐵建設(shè)物資公司共建了產(chǎn)業(yè)風(fēng)控平臺，依托蟻盾提供的合規(guī)、安全的數(shù)據(jù)管道，可以一站式查詢企業(yè)資質(zhì)、經(jīng)營信息、司法訴訟、關(guān)聯(lián)風(fēng)險(xiǎn)、新聞輿情等多維度數(shù)據(jù)，也可以了解細(xì)分行業(yè)的發(fā)展趨勢。

2023年，除了火爆的人工智能之外，我國數(shù)據(jù)要素市場建設(shè)也在加速，從基礎(chǔ)制度體系的建設(shè)，到交易市場的活躍，全方位推進(jìn)。目前，我國正處于數(shù)據(jù)產(chǎn)業(yè)發(fā)展的關(guān)鍵時(shí)期。

2024年1月1日，《企業(yè)數(shù)據(jù)資源相關(guān)會計(jì)處理暫行規(guī)定》正式施行。數(shù)據(jù)資產(chǎn)入表政策落地，意味著數(shù)據(jù)要素產(chǎn)業(yè)化大時(shí)代的開啟。

1月4日，《“數(shù)據(jù)要素×”三年行動(dòng)計(jì)劃（2024—2026年）》正式發(fā)布，從征求意見到正式發(fā)布，用時(shí)不到一個(gè)月，進(jìn)展神速。其中提出，到2026年底，數(shù)據(jù)產(chǎn)業(yè)年均增速超過20%，場內(nèi)交易與場外交易協(xié)調(diào)發(fā)展，數(shù)據(jù)交易規(guī)模倍增。

數(shù)字化背后這汪名為“數(shù)據(jù)”的巨大海洋，正在前所未有的翻滾，產(chǎn)生巨大的動(dòng)能和勢能。據(jù)國家發(fā)改委專家初步測算，全國企業(yè)數(shù)據(jù)要素支出規(guī)模約為3.3萬億元，如果考慮數(shù)據(jù)資產(chǎn)評估、質(zhì)押、融資等衍生市場，整體規(guī)�？赡艹�過30萬億元。

而數(shù)據(jù)要素市場的有效運(yùn)轉(zhuǎn)，離不開數(shù)據(jù)安全合規(guī)這一基礎(chǔ)，安全科技的需求將在數(shù)據(jù)要素產(chǎn)業(yè)全面發(fā)展的過程中迎來爆發(fā)。

從趨勢上來講，伴隨著IT架構(gòu)的演進(jìn)，安全科技走向了無邊界，逐漸超越傳統(tǒng)安全的新一代技術(shù)集群，未來將呈現(xiàn)智能化、零化、彈性化、匿名化、量子化的發(fā)展趨勢。安全科技將作為方向盤，始終將各種新興科技控制在向善的道路上。

       原文標(biāo)題 : 社科大萬字調(diào)研深度解讀：安全科技為何是新型公共產(chǎn)品？