(網(wǎng)經社訊)9 月 18 日，在「2018 世界人工智能大會·人工智能安全高端對話」分論壇中，騰訊安全管理部聯(lián)合賽博研究院發(fā)布《人工智能賦能網(wǎng)絡空間安全：模式與實踐》報告。該報告聚焦網(wǎng)絡安全，分析了網(wǎng)絡空間安全的演進和風險趨勢，結合騰訊 AI 安全應用全布局和國內外企業(yè)的 30 多個最佳實踐，詳細闡釋人工智能賦能網(wǎng)絡空間安全（AI+安全）的最新進展。本文對此報告的第三章「人工智能在網(wǎng)絡空間安全領域的應用模式」進行了介紹。
摘要
人工智能時代，網(wǎng)絡空間安全威脅全面泛化，如何利用人工智能思想和技術應對各類安全威脅，是國內外產業(yè)界共同努力的方向。本報告從風險演進和技術邏輯的角度，將網(wǎng)絡空間安全分為網(wǎng)絡系統(tǒng)安全、網(wǎng)絡內容安全和物理網(wǎng)絡系統(tǒng)安全三大領域；在此基礎上，本報告借鑒 Gartner 公司的 ASA 自適應安全架構模型，從預測、防御、檢測、響應四個維度，提出人工智能技術在網(wǎng)絡空間安全領域的具體應用模式。與此同時，本報告結合國內外企業(yè)最佳實踐，詳細闡釋人工智能賦能網(wǎng)絡空間安全（AI+安全）的最新進展。最后，本報告提出，人工智能安全將成為人工智能產業(yè)發(fā)展最大藍海，人工智能的本體安全決定安全應用的發(fā)展進程，「人工」+「智能」將長期主導安全實踐，人工智能技術路線豐富將改善安全困境，網(wǎng)絡空間安全將驅動人工智能國際合作。
目 錄
第一章 人工智能技術的發(fā)展沿革
(一) 人工智能技術的關鍵階段
(二) 人工智能技術的驅動因素
(三) 人工智能技術的典型代表
(四) 人工智能技術的廣泛應用
第二章 網(wǎng)絡空間安全的內涵與態(tài)勢
(一) 網(wǎng)絡空間安全的內涵
(二) 人工智能時代網(wǎng)絡空間安全發(fā)展態(tài)勢
1、網(wǎng)絡空間安全威脅趨向智能2、網(wǎng)絡空間安全邊界開放擴張3、網(wǎng)絡空間安全人力面臨不足4、網(wǎng)絡空間安全防御趨向主動
第三章 人工智能在網(wǎng)絡空間安全領域的應用模式
(一) AI+安全的應用優(yōu)勢
(二) AI+安全的產業(yè)格局
(三) AI+安全的實現(xiàn)模式
1、人工智能應用于網(wǎng)絡系統(tǒng)安全2、人工智能應用于網(wǎng)絡內容安全3、人工智能應用于物理網(wǎng)絡系統(tǒng)安全
第四章 人工智能在網(wǎng)絡空間安全領域的應用案例
網(wǎng)絡系統(tǒng)安全篇
（一）病毒及惡意代碼檢測與防御
（二）網(wǎng)絡入侵檢測與防御
第三章 人工智能在網(wǎng)絡空間安全領域的應用模式
人工智能技術日趨成熟，人工智能在網(wǎng)絡空間安全領域的應用（簡稱 AI+安全）不僅能夠全面提高網(wǎng)絡空間各類威脅的響應和應對速度，而且能夠全面提高風險防范的預見性和準確性。因此，人工智能技術已經被全面應用于網(wǎng)絡空間安全領域，在應對智能時代人類各類安全難題中發(fā)揮著巨大潛力。
（一）AI+安全的應用優(yōu)勢
人們應對和解決安全威脅，從感知和意識到不安全的狀態(tài)開始，通過經驗知識加以分析，針對威脅形態(tài)做出決策，選擇最優(yōu)的行動脫離不安全狀態(tài)。類人的人工智能，正是令機器學會從認識物理世界到自主決策的過程，其內在邏輯是通過數(shù)據(jù)輸入理解世界，或通過傳感器感知環(huán)境，然后運用模式識別實現(xiàn)數(shù)據(jù)的分類、聚類、回歸等分析，并據(jù)此做出最優(yōu)的決策推薦。
當人工智能運用到安全領域，機器自動化和機器學習技術能有效且高效地幫助人類預測、感知和識別安全風險，快速檢測定位危險來源，分析安全問題產生的原因和危害方式，綜合智慧大腦的知識庫判斷并選擇最優(yōu)策略，采取緩解措施或抵抗威脅，甚至提供進一步緩解和修復的建議。這個過程不僅將人們從繁重、耗時、復雜的任務中解放出來，且面對不斷變化的風險環(huán)境、異常的攻擊威脅形態(tài)比人更快、更準確，綜合分析的靈活性和效率也更高。
因此，人工智能的「思考和行動」邏輯與安全防護的邏輯從本質上是自洽的，網(wǎng)絡空間安全天然是人工智能技術大顯身手的領域。
（1）基于大數(shù)據(jù)分析的高效威脅識別：大數(shù)據(jù)為機器學習和深度學習算法提供源源動能，使人工智能保持良好的自我學習能力，升級的安全分析引擎，具有動態(tài)適應各種不確定環(huán)境的能力，有助于更好地針對大量模糊、非線性、異構數(shù)據(jù)做出因地制宜的聚合、分類、序列化等分析處理，甚至實現(xiàn)了對行為及動因的分析，大幅提升檢測、識別已知和未知網(wǎng)絡空間安全威脅的效率，升級精準度和自動化程度。
（2）基于深度學習的精準關聯(lián)分析：人工智能的深度學習算法在發(fā)掘海量數(shù)據(jù)中的復雜關聯(lián)方面表現(xiàn)突出，擅長綜合定量分析相關安全性，有助于全面感知內外部安全威脅。人工智能技術對各種網(wǎng)絡安全要素和百千級維度的安全風險數(shù)據(jù)進行歸并融合、關聯(lián)分析，再經過深度學習的綜合理解、評估后對安全威脅的發(fā)展趨勢做出預測，還能夠自主設立安全基線達到精細度量網(wǎng)絡安全性的效果，從而構建立體、動態(tài)、精準和自適應的網(wǎng)絡安全威脅態(tài)勢感知體系。
（3）基于自主優(yōu)化的快速應急響應：人工智能展現(xiàn)出強大的學習、思考和進化能力，能夠從容應對未知、變化、激增的攻擊行為，并結合當前威脅情報和現(xiàn)有安全策略形成適應性極高的安全智慧，主動快速選擇調整安全防護策略，并付諸實施，最終幫助構建全面感知、適應協(xié)同、智能防護、優(yōu)化演進的主動安全防御體系。
（4）基于進化賦能的良善廣域治理：隨著網(wǎng)絡空間內涵外延的不斷擴展，人類面臨的安全威脅無論從數(shù)量、來源、形態(tài)、程度和修復性上都在超出原本行之有效的分工和應對能力，有可能處于失控邊緣，人工智能對人的最高智慧的極限探索，也將拓展網(wǎng)絡治理的理念和方式，實現(xiàn)安全治理的突破性創(chuàng)新。人工智能不僅能解決當下的安全難題，而通過在安全場景的深化應用和檢驗，發(fā)現(xiàn)人工智能的缺陷和不足，為下一階段的人工智能發(fā)展和應用奠定基礎，指明方向，推動人工智能技術的持續(xù)變革及其更廣域的賦能。
（二）AI+安全的產業(yè)格局
人工智能以其獨特的優(yōu)勢正在各類安全場景中形成多種多樣的解決方案。從可觀察的市場指標來看，近幾年來人工智能安全市場迅速成長， 公司在 2018 年的研究表明，在網(wǎng)絡安全中人工智能應用場景增多，同時地域覆蓋范圍擴大，將進一步擴大技術在安全領域的應用，因此人工智能技術在安全市場內將快速發(fā)展，預計到 2024 年，可用在安全中的人工智能技術市場規(guī)模將超過 350 億美元，在 2017-2024 年之間年復合增長率（CAGR）可達 31%。
MarketsandMarkets 公司在 2018 年 1 月發(fā)布的《安全市場中人工智能》報告則認為，2016 年 AI 安全市場規(guī)模就已達 29.9 億美元、2017 年更是達到 39.2 億美元，預測在 2025 年將達到 348.1 億美元，年復合增長率為 31.38%。而愛爾蘭的 Research and Markets 公司在 2018 年 4 月份發(fā)布了專門的市場研究報告，認為到 2023 年人工智能在安全領域應用的市場規(guī)模將達 182 億美元，年復合增長率為 34.5%。由于機器學習對付網(wǎng)絡犯罪較為有效，因此機器學習作為單一技術將占領最大的一塊市場，到 2023 年其市場規(guī)模預計可達 60 億美元。
除了傳統(tǒng)安全公司致力于人工智能安全，大型互聯(lián)網(wǎng)企業(yè)也在積極開展人工智能安全實踐，如 Google、Facebook、Amazon、騰訊、阿里巴巴等均在圍繞自身業(yè)務積極布局人工智能安全應用。
（三）AI+安全的實現(xiàn)模式
人工智能是以計算機科學為基礎的綜合交叉學科，涉及技術領域眾多、應用范疇廣泛，其知識、技術體系實際與整個科學體系的演化和發(fā)展密切相關。因此，如何根據(jù)各類場景安全需求的變化，進行 AI 技術的系統(tǒng)化配置尤為關鍵。
本報告采用 Gartner 公司 2014 年提出的自適應安全架構（ASA，Adaptive SecurityArchitecture）來分析安全場景中人工智能技術的應用需求，此架構重在持續(xù)監(jiān)控和行為分析，統(tǒng)合安全中預測、防御、檢測、響應四層面，直觀的采用四象限圖來進行安全建模。其中「預測」指檢測安全威脅行動的能力；「防御」表示現(xiàn)有預防攻擊的產品和流程；「檢測」用以發(fā)現(xiàn)、監(jiān)測、確認及遏制攻擊行為的手段；「響應」用來描述調查、修復問題的能力。
本報告將 AI+安全的實現(xiàn)模式按照階段進行分類和總結，識別各領域的外在和潛在的安全需求，采用 ASA 分析應用場景的安全需求及技術要求，結合算法和模型的多維度分析, 尋找 AI+安全實現(xiàn)模式與適應條件，揭示技術如何響應和滿足安全需求，促進業(yè)務系統(tǒng)實現(xiàn)持續(xù)的自我進化、自我調整，最終動態(tài)適應網(wǎng)絡空間不斷變化的各類安全威脅。
1、人工智能應用于網(wǎng)絡系統(tǒng)安全
人工智能技術較早應用于網(wǎng)絡系統(tǒng)安全領域，從機器學習、專家系統(tǒng)以及過程自動化等到如今的深度學習，越來越多的人工智能技術被證實能有效增強網(wǎng)絡系統(tǒng)安全防御：
機器學習 (ML, Machine Learning):在安全中使用機器學習技術可增強系統(tǒng)的預測能力，動態(tài)防御攻擊，提升安全事件響應能力。專家系統(tǒng)（ES, Expert System）：可用于安全事件發(fā)生時為人提供決策輔助或部分自主決策。過程自動化 (AT, Automation )：在安全領域中應用較為普遍，代替或協(xié)助人類進行檢測或修復，尤其是安全事件的審計、取證，有不可替代的作用。深度學習（DL, Deep Learning）：在安全領域中應用非常廣泛，如探測與防御、威脅情報感知，結合其他技術的發(fā)展取得極高的成就。
如圖 3 所示，通過分析人工智能技術應用于網(wǎng)絡系統(tǒng)安全，在四個層面均可有效提升安全效能：
預測：基于無監(jiān)督學習、可持續(xù)訓練的機器學習技術，可以提前研判網(wǎng)絡威脅，用專家系統(tǒng)、機器學習和過程自動化技術來進行風險評估并建立安全基線，可以讓系統(tǒng)固若金湯。
防御：發(fā)現(xiàn)系統(tǒng)潛在風險或漏洞后，可采用過程自動化技術進行加固。安全事件發(fā)生時，機器學習還能通過模擬來誘導攻擊者，保護更有價值的數(shù)字資產，避免系統(tǒng)遭受攻擊。
檢測：組合機器學習、專家系統(tǒng)等工具連續(xù)監(jiān)控流量，可以識別攻擊模式，實現(xiàn)實時、無人參與的網(wǎng)絡分析，洞察系統(tǒng)的安全態(tài)勢，動態(tài)靈活調整系統(tǒng)安全策略，讓系統(tǒng)適應不斷變化的安全環(huán)境。
響應：系統(tǒng)可及時將威脅分析和分類，實現(xiàn)自動或有人介入響應，為后續(xù)恢復正常并審計事件提供幫助和指引。
因此人工智能技術應用于網(wǎng)絡系統(tǒng)安全，正在改變當前安全態(tài)勢，可讓系統(tǒng)彈性應對日益細化的網(wǎng)絡攻擊。在安全領域使用人工智能技術也會帶來一些新問題，不僅有人工智能技術用于網(wǎng)絡攻擊等伴生問題，還有如隱私保護等道德倫理問題，因此還需要多種措施保證其合理應用。總而言之，利用機器的智慧和力量來支持和保障網(wǎng)絡系統(tǒng)安全行之有效。
2、人工智能應用于網(wǎng)絡內容安全
人工智能技術可被應用于網(wǎng)絡內容安全領域，參與網(wǎng)絡文本內容檢測與分類、視頻和圖片內容識別、語音內容檢測等事務，切實高效地協(xié)助人類進行內容分類和管理。面對包括視頻、圖片、文字等實時海量的信息內容，人工方式開展網(wǎng)絡內容治理已經捉襟見肘，人工智能技術在網(wǎng)絡內容治理層面已然不可替代。
在網(wǎng)絡內容安全領域所應用的人工智能技術如下：
自然語言處理（NLP, Natural Language Processing）：可用于理解文字、語音等人類創(chuàng)造的內容，在內容安全領域不可或缺。圖像處理（IP, Image Processing）：對圖像進行分析，進行內容的識別和分類，在內容安全中常用于不良信息處理。視頻分析技術 (VA, Video Analysis)：對目標行為的視頻進行分析，識別出視頻中活動的目標及相應的內涵，用于不良信息識別。
如圖 4 所示，通過分析人工智能技術應用于網(wǎng)絡內容安全，在四個層面均可有效提升安全效能：
預防階段：內容安全最重要的是合規(guī)性，由于各領域的監(jiān)管法律/政策的側重點不同而有所區(qū)別且動態(tài)變化。在預防階段，可使用深度學習和自然語言處理進行相關法律法規(guī)條文的理解和解讀，并設定內容安全基線，再由深度學習工具進行場景預測和風險評估，并及時將結果向網(wǎng)絡內容管理人員報告。
防御階段：應用深度學習等工具可完善系統(tǒng)，防范潛在安全事件的發(fā)生。
檢測階段：自然語言、圖像、視頻分析等智能工具能快速識別內容，動態(tài)比對安全基線，及時將分析結果交付給人類伙伴進行后續(xù)處置，除此之外，基于內容分析的情感人工智能也已逐步應用于輿情預警，取得不俗成果。
響應階段：在后續(xù)調查或留存審計資料階段，過程自動化同樣不可或缺。
3、人工智能應用于物理網(wǎng)絡系統(tǒng)安全
隨著物聯(lián)網(wǎng)、工業(yè)互聯(lián)網(wǎng)、5G 等技術的成熟，網(wǎng)絡空間發(fā)生深刻變化，人、物、物理空間通過各類系統(tǒng)實現(xiàn)無縫連接，由于涉及的領域眾多同時接入的設備數(shù)量巨大，傳感器網(wǎng)絡所產生的數(shù)據(jù)可能是高頻低密度數(shù)據(jù)，人工已經難以應對，采用人工智能勢在必行。但由于應用場景極為復雜多樣，可供應用的人工智能技術將更加廣泛，并會驅動人工智能技術自身新發(fā)展。
情緒識別（ER, Emotion Recognition）：不僅可用圖像處理或音頻數(shù)據(jù)獲得人類的情緒狀態(tài)，還可以通過文本分析、心率、腦電波等方式感知人類的情緒狀態(tài)，在物理網(wǎng)絡中將應用較為普遍，通過識別人類的情緒狀態(tài)從而可與周邊環(huán)境的互動更為安全。AI 建模（DT, Digital Twin/AI Modeling）：通過軟件來溝通物理系統(tǒng)與數(shù)字世界。生物特征識別 (BO, Biometrics)：可通過獲取和分析人體的生理和行為特征來實現(xiàn)人類唯一身份的智能和自動鑒別，包括人臉識別、虹膜識別、指紋識別、掌紋識別等技術。虛擬代理 (VA, Virtual Agents)：這類具有人類行為和思考特征的智能程序，協(xié)助人類識別安全風險因素，讓人類在物理網(wǎng)絡世界中更安全。
物理網(wǎng)絡安全由于應用領域廣、層次多，可應用的技術類型也極為復雜，因此需要以人為中心，通過全程監(jiān)測人和系統(tǒng)、人與機器、人與環(huán)境之間的交互，確保人與物的不受威脅。以物聯(lián)網(wǎng)為例，在業(yè)務運營系統(tǒng)與網(wǎng)絡系統(tǒng)進行融合后，通?？煞譃樨撠煒I(yè)務信息的信息技術（IT）網(wǎng)絡與負責生產運行維護的運營技術（OT）網(wǎng)絡這兩部分，IT 部分的 AI 應用與網(wǎng)絡系統(tǒng)安全需求基本一致，而 OT 部分則涉及業(yè)務運營安全，與應用場景融合的安全需求變得復雜，安全不僅關乎這些 IT 資產擁有者的安全，而且其中部分屬于關鍵基礎設施，一旦出現(xiàn)風險則將可能給國計民生帶來惡劣影響。
但人工智能應用得當，不僅可以更高效的抵御 OT 風險，還可以提升 OT 運營效能，從而直接創(chuàng)造價值，因此 AI 應用于 OT 安全領域不僅在安全管理上成為必需，而且也能促進綜合效益提升。例如，AI 應用于智慧城市的智能交通安全中的流量管控中，一般通過歷史數(shù)據(jù)與深度學習進行交通流量預測，可通過交通設施的優(yōu)化布局進行流量管控預防，而在當前道路體系中應用專家系統(tǒng)進行預防，同時通過計算機圖像分析技術首先進行道口流量實時監(jiān)控、車輛通過監(jiān)測，提前疏解交通堵點，洞悉交通現(xiàn)場態(tài)勢，即便發(fā)生事故，也可迅速調集應急資源快速進行現(xiàn)場處置，在事件回溯期間，可將相關系統(tǒng)中已處理的信息進行自動關聯(lián)，從而為后續(xù)調整道路通行方案提供依據(jù)。（來源：騰訊安全管理部 賽博研究院；編選：電子商務研究中心）
