1  引言

隨著數字化轉型的深入，網絡威脅日益復雜多變，傳統防御模式面臨嚴峻挑戰。人工智能（Artificial Intelligence， AI）技術以其強大的數據處理與決策能力，正深刻改變著網絡安全對抗格局。因此，厘清AI在網絡安全中的雙向作用機制具有重要的現實意義。本文基于攻防對抗雙重視角，從全生命周期系統梳理了AI在防御端的技術與成效，剖析了其在攻擊端催生的威脅形態，進而揭示了智能時代網絡安全的演進邏輯與核心挑戰。結合其在技術應用、政策引導與產業測評等方面的進展，本文還提出了面向未來的體系化發展建議，以期為構建自主演進的下一代安全防御體系提供參考。

2  范疇

國際就AI對網絡安全的雙向賦能特性基本達成共識，“防御AI化”與“AI防御化”將在一段時間內持續共生。歐盟網絡安全局（ENISA）在《人工智能網絡安全和標準化》報告[1] 中將AI與網絡安全關系歸納為三個維度： 一是AI自身安全，聚焦AI模型和算法脆弱性；二是AI對網絡安全的賦能支撐，即AI增強網絡安全防護能力，為應對網絡犯罪提供技術手段；三是AI被惡意用于開展復雜攻擊。2024年11月，經濟合作與發展組織（OECD）在《評估未來人工智能的潛在風險、收益及政策要務》報告[2] 中，聚焦典型應用分析了AI在網絡安全領域的雙刃劍效應，指出生成式AI可能被用于制造更逼真的釣魚郵件、自主攻擊系統、漏洞自動利用工具等，同時AI驅動的威脅情報分析系統可將漏洞響應時間從小時級縮短至分鐘級。2025年1月，世界經濟論壇（WEF）發布了《人工智能與網絡安全：平衡風險與回報》白皮書[3] ，提出了“以AI對抗AI”的核心策略，建立了包含AI漏洞掃描、自動化響應和動態策略優化的防御體系，同時針對生成式AI模型部署了內容溯源與可信度評估機制，并呼吁通過統一標準與公私營協作應對無國界的AI安全威脅。本文將主要聚焦在AI對網絡安全的雙向作用，即對網絡安全的賦能支撐及惡意開展網絡攻擊兩方面。

3  國際AI網絡安全的多維度治理與監管

面對AI技術在網絡安全領域的雙向賦能特性，國際社會圍繞標準賦能、協同創新、政策鼓勵，釋放AI技術在防御端的應用價值，為“以AI對AI”的攻防新態勢提供制度性支撐。

（1）標準化引領成為促進AI安全技術落地的核心路徑。國際標準化組織（ISO）和國際電工委員會（IEC）聯合成立了人工智能分技術委員會（ISO/ IEC JTC 1/SC 42），并發布了ISO/IEC 42001:2023 （信息技術—人工智能—管理系統）、ISO/IEC TR 27563:2023（人工智能用例中的安全和隱私—最佳實踐）等標準，為AI技術提供了全生命周期風險管理，解決了AI應用中的安全、透明、公平等問題。歐洲電信標準協會（ETSI）制定發布了“保障人工智能”系列標準，其覆蓋人工智能安全測試、數據供應鏈安全、人工智能計算平臺安全框架等領域內容。國際電信聯盟電信標準化部門（ITU-T）主要在SG17（安全組）開展了人工智能安全相關標準研制工作。該工作覆蓋了智能體安全、人工智能物聯網安全、生成式人工智能檢測等領域，其中ITU-T TR.AISec（人工智能安全標準化戰略）從“人工智能的安全”和“人工智能帶來的安全”兩個維度提供了AI安全標準化策略[4]。美國國家標準與技術研究院（NIST）在AI安全領域持續發力，其2023年發布的《人工智能風險管理框架（AI RMF）》、2024年推出的《人工智能風險管理框架：生成式AI配置文件》、2025年12月發布的《人工智能網絡安全框架規范（草案）》 [5]，從確保AI系統自身的安全、利用AI增強網絡防御、防范AI驅動的網絡攻擊三個領域，定義了AI的“安全”“防御”和“阻斷”，并提供了網絡安全框架與人工智能的對接方法和建議。

（2）多國協同治理機制為AI安全技術規模化應用提供跨域支撐。2025年3月，法國國家網絡安全局（ANSSI）牽頭，與加拿大、德國、英國、新加坡等15國聯合發布《基于風險的AI信任構建框架》，鼓勵建立跨境AI安全技術互認機制，促進防御工具的全球化部署與協同作戰。2025年7月，美國發布《贏得競賽：美國人工智能行動計劃》，從網絡防御、安全設計、情報共享三個維度強化AI安全，提出建立不限定行業的AI信息共享平臺，促進跨行業威脅情報交流。2025年9月， G7網絡專家小組（CEG）發布AI與網絡安全聲明，倡導成員國建立公私產學研協同機制，鼓勵跨境技術交流與經驗共享，構建全球AI安全防御技術創新網絡。

（3）資金投入驅動AI安全技術研發與落地。 2024年，愛沙尼亞設立網絡安全創新基金，資助企業與研究機構合作開發AI網絡安全產品，符合條件的中小企業最高可獲得項目總成本70%的資助。 2025年，英國對從事AI研發的微型或小型企業提供國家網絡基礎安全資助計劃，通過申請的企業將獲得免費網絡安全實操幫助。歐洲網絡安全能力中心提出在2025~2027年間投入4500萬歐元用于支持中小企業部署智能威脅檢測、分析、防御等AI 安全工具。

整體來看，各國政府和國際組織在AI安全管理方面以標準化消除技術應用壁壘，以協同機制打破創新孤島強化技術共享， 以資金驅動強化AI安全技術實戰化應用，為全球智能博弈格局下的防御能力提升提供了制度保障和規范依據。

4  安全全周期的AI攻防技術持續對抗

在網絡安全“識別—防御—檢測—響應”全生命周期中，一方面，生成式AI、自動化工具和對抗性技術降低了攻擊門檻，增強了攻擊的定制性智能化，AI式攻擊呈現自治化、智能化與規模化特征，對防御方構成嚴峻挑戰；另一方面，AI技術重構防御流程、優化檢測機制、強化響應能力，推動了網絡安全防御從被動應對向主動預判、從單點防護向體系化防護轉型，顯著提升了防御方的對抗優勢。

（1）識別：AI賦能的資產和漏洞識別

安全識別可確定與系統、人員、資產和數據相關的關鍵因素和風險，為其他網絡安全功能奠定了基礎。

在資產識別方面，聚類算法等傳統機器學習方法廣泛應用于網絡資產的自動發現與分類，可識別活躍主機與服務[6]。圖神經網絡等深度學習技術能夠從原始數據中自動學習高階特征與拓撲關系，可更精準地識別隱蔽資產[7]。大模型技術則可進一步通過語義理解實現智能資產畫像的潛力[8]。

在漏洞識別方面，傳統靜態分析工具對邏輯漏洞的檢出率不足35%，研究人員通過使用深度學習和遷移學習檢查源代碼中的漏洞，或利用漏洞庫、社交網絡檢測軟件中新出現的漏洞[9]，可將漏洞檢出率提升至78%[10]。研究顯示，AI智能體通過組合博弈論與動態攻擊樹建模，能自主發現SQL注入、XSS等漏洞的17種新型變體。智能漏洞檢測模型既可以強化漏洞管理，幫助程序員編寫安全代碼，實現安全左移，也可以加速漏洞曝光速度。攻擊者可利用難以修補的硬件漏洞或未能及時修補的漏洞開展攻擊，挑戰了防御方的漏洞修復實效和全面性。

基于AI對識別的賦能作用，亟需強化資產管理，避免權限外智能識別增大暴露面，夯實已知漏洞的修復管理并不斷提升漏洞智能識別技術，以實現對漏洞惡意利用的對抗博弈。

（2）防御：AI驅動的身份認證和防御策略

安全防御通過部署適當的控制措施，可以限制或遏制潛在網絡安全事件的影響。

在身份認證方面，生成式AI、深度偽造等技術可被用于偽造或篡改身份信息，以及模仿他人身份特征實現身份欺詐，挑戰了傳統靜態身份驗證機制。對此，AI技術推動信任評估轉向“多維度行為建模”，其通過分析用戶鍵盤敲擊頻率、設備運行狀態、地理環境等動態特征，構建實時更新的“數字指紋”，實現對AI化身份欺詐的精準識別。此外，基于AI的零信任架構可通過持續驗證用戶身份和終端狀態，有效縮小防御盲區，使75%的組織能夠將非托管設備和遺留系統納入安全管控范圍[11]。

在動態防護策略方面， AI可通過智能體與環境的交互試錯，實現防御策略的實時調整和自主優化動態，并可通過動態維護訪問控制狀態、角色挖掘、情境感知決策等，實現動態智能訪問控制。 Benedetti等提出了基于人工智能重新配置基于角色的訪問控制（RBAC）狀態，實現了訪問控制狀態的更新和維護[12]。Abolfathi從現有的訪問控制列表中提取了“用戶—角色”和“角色—權限”關系，實現了可擴展的角色挖掘[10]。

在主動防御演練方面， AI可通過學習模擬攻擊鏈，輔助進行滲透測試和動態防御，評估防御體系有效性，強化主動安全。英國國家網絡安全中心與Darktrace合作開發的AI系統，可實時監控全國關鍵網絡流量，可模擬不同攻擊場景，可將平均響應時間縮短76%，為應急響應團隊提供了決策支持。

基于AI對防御技術的雙向賦能作用，亟需強化動態的身份認證和智能訪問等技術，以識別應對并強化AI賦能的攻擊演練，主動化、動態式對抗深度偽造、身份冒用等攻擊。

（3）檢測：AI在攻擊檢測和對抗規避中的雙向作用

深度學習憑借強大的非線性建模能力，能夠自動提取攻擊行為的高階特征，有效識別惡意軟件變種，在發現零日攻擊與復雜攻擊鏈方面展現出強大潛力，對未知入侵的識別準確率較傳統方法提升了37%以上，誤報率降低至5%以下[13]。與此同時，攻擊者可利用AI強大的學習和自然語言生成能力，強化社工類攻擊，用AI攻擊對抗AI檢測。

在社工類攻擊檢測方面，人工智能可自動識別目標系統中的關鍵憑證持有者，收集其數字痕跡和通信信息，發起多形態網絡釣魚、竊取憑證等攻擊，加大攻擊檢測和補救難度。據Knowbe4《網絡釣魚威脅趨勢報告》統計，2024年9月~2025年2月期間， 82.6%的釣魚郵件利用了人工智能技術，76.4%的網絡釣魚攻擊至少存在一種多形態特征。AI化的大規模、多形態的網絡釣魚攻擊，因語言流暢性與個性化特征，使傳統網關攔截率下降35%。

在構造對抗樣本規避AI檢測方面，Aloraini等[14]的研究表明，攻擊者利用對抗性樣本生成技術，能夠使車載網絡中的AI入侵檢測系統誤報率提升至89%，通過干擾防御系統的判斷實現攻擊突破。IJNRD[15]指出FGSM、PGD、C&W三種對抗性攻擊可使CNN模型誤判率分別達42.2%、65.5%和86.8%，攻擊者通過細微篡改輸入數據，即可繞過AI驅動的安全工具。

基于AI對檢測的雙向賦能作用，需通過實時采集攻擊數據、不斷學習攻擊模式，加強高質量數據集的生成，動態生成并迭代檢測策略，以實現檢測技術螺旋式升級。

（4）響應：自動化鏈式響應中的AI攻防博弈

響應處置通過系列操作遏制網絡安全事件的影響范圍。

AI化攻擊呈現鏈式特點，加大響應難度。 USENIXSecurity2024發布的ChainReactor工具，通過AI規劃算法將系統配置、可用漏洞和執行程序編碼為規劃問題，能夠自動發現權限提升攻擊鏈，從初始入侵到權限提升、橫向移動再到數據泄露，形成了完整的攻擊閉環，攻擊流程無需人工干預。

AI化響應處置自動化，提升應對效率。人工智能通過自動化編排、人機協同決策與態勢智能感知，破解了傳統安全運營“工具碎片化、人工依賴重、響應滯后”的痛點，實現了威脅處置流程自主適配。 SplunkAI驅動的SOC平臺整合了45種以上安全工具，實現了告警降噪率達到90%、事件處理時間縮短75%。 PaloAltoNetworks XSIAM平臺通過AI編排引擎，構建了攻擊戰術與防御措施的智能映射關系，實現了“檢測即響應”的自動化閉環，可將60%以上的安全事件響應時間控制在10分鐘內，較傳統人工處置效率提升300%。

基于AI對處置的雙向賦能作用，需強化安全能力間、部門間的協同應對，促進安全相關數據和接口標準化，突破安全共享下的隱私保護等技術，實現安全能力的自適應動態協同調度水平升級。

5  我國人工智能賦能網絡安全的現狀與建議

（1）發展現狀

隨著網絡安全攻防對抗進入“智能博弈”的新階段，我國從技術、政策、測評多維度發力推動人工智能賦能網絡安全發展。

在技術應用方面，我國已實現從“跟跑”向“并跑”乃至部分“領跑”的跨越。基于機器學習和深度學習的檢測、分析與響應技術已在主流安全產品中得到規模化應用，頭部互聯網企業與專業安全廠商依托海量數據與業務場景，構建了覆蓋威脅感知、入侵防御、自動化運營等環節的人工智能安全體系，并在金融、政務、能源等行業取得了顯著成效。同時，前沿技術探索持續深入，圖神經網絡、元學習、聯邦學習及大模型在安全領域的應用研究逐步從實驗室走向試點場景，推動安全運營向智能化、自動化演進。

在政策引導方面，國家與地方層面已出臺多項規劃與管理辦法，為人工智能與網絡安全融合發展營造了良好的制度環境。《網絡安全產業高質量發展三年行動計劃（2021—2023年）》等文件明確鼓勵人工智能在安全防護中的創新應用，《生成式人工智能服務管理暫行辦法》等法規在促進發展的同時強化安全與合規要求，共同構建了產業發展的政策框架。

在測評體系方面，相關主管部門及行業機構積極推動技術驗證與生態培育，并組織開展人工智能技術賦能網絡安全應用測試相關活動，通過真實場景測試對安全產品的檢測能力、響應效率與魯棒性等指標進行綜合評價，有效促進了高價值技術產品的遴選與推廣。

（2）發展建議

為構建自主可控、智能敏捷的網絡安全防御體系，需從技術和管理兩方面協同發力，系統提升我國人工智能賦能網絡安全的整體能力。

在技術發展方面， 一是持續加強基礎研究與前沿探索，重點發展對抗性機器學習、可解釋人工智能、隱私計算等技術，提升人工智能模型在動態對抗環境中的魯棒性和可靠性；二是深化人工智能與具體安全場景的融合，研發面向云、物聯網、工控等領域的專用安全模型，推動大語言模型與威脅情報、知識圖譜的有機結合，實現跨模態威脅的深度理解與智能響應；三是鼓勵構建產學研用協同的開放創新生態，通過共享部分脫敏數據、基準環境與模型資源，降低研發門檻，加速技術迭代與落地。

在管理保障方面， 一是建設高質量、標準化的網絡安全攻防數據集，通過合規共享機制打破數據孤島，為人工智能模型訓練提供豐富素材；二是建立健全人工智能安全技術評價與測試認證體系，制定覆蓋性能、效率、魯棒性、可解釋性等多維度的國家標準與行業規范，引導產業高質量發展；三是加快復合型人才培養，通過系統性專業培訓與實戰演練相結合，培育兼具人工智能算法能力和網絡安全實戰經驗的專門人才；四是優化算力基礎設施布局與協同機制，為各類主體提供普惠算力支持，并探索跨域算力調度模式，滿足大規模模型訓練與實時推理需求。

作者簡介：

謝   瑋（1971-），女，江蘇無錫人，正高級工程師， 學士， 現就職于中國信息通信研究院安全研究所， 主要從事網絡和數據安全、工業互聯網安全、車聯網安全等領域方面的研究工作。

參考文獻：

[1] 歐盟網絡安全局. Cybersecurity of AI and Standardisation[Z]. 2023.

[2] OECD. Assessing Potential Future Artificial Intelligence Risks[Z]. Paris, France: Benefits and Policy Imperatives, 2024.

[3] World Economic Forum. Artificial Intelligence and Cybersecurity: Balancing Risks and Rewards[Z]. Geneva, Switzerland: 2025.

[4] 高楓, 宋暢, 韓孟祥, 王超, 肖宇. AI安全標準綜述[J]. 中國標準化, 2025, 16 (685) : 40 - 50.

[5] ETSI TR 104 067 v1.1.1. Securing Artificial Intelligence (SAI); Proofs of Concepts Framework[S]. European Telecommunications Standards Institute, 2024.

[6] Zhou X, Zhang M, Yao X, et al. A Novel Feature Clustering Approach for Comprehensive Network Asset Discovery: Methods, Implementation, and Validation[C]. International Conference on Data and Information in Online. Cham: Springer Nature Switzerland, 2024 : 45 - 62.

[7] Wang W, Sheng Y, Wang J, et al. HAST-IDS: Learning Hierarchical Spatial-Temporal Features using Deep Neural Networks to Improve Intrusion Detection[J]. IEEE access, 2018, 6 (99) : 1792 - 1806.

[8] Coppolino L, Iannaccone A, Nardone R, et al. Asset Discovery in Critical Infrastructures: An LLM-Based Approach[J]. Electronics, 2025, 14 (16) : 5124 - 5141 .

[9] 云安全聯盟(CSA)大中華區. AI應用于進攻性安全[R]. 北京: 云安全聯盟大中華區, 2025.

[10] Abolfathi M, Raghebi Z, Jafarian H, et al. A Scalable Role Mining Approach for Large Organizations[Z]. Proceedings of the 2021 ACM Workshop on Security and Privacy Analytics, 2021.

[11] 杜彪, 苗青鵬, 石凱, 等. 人工智能技術在零信任架構下的應用研究[J]. 信息安全與通信保密, 2025, (7) : 66 - 74.

[12] Benedetti M, Mori M. On the Use of Max-SAT and PDDL in RBAC Maintenance[Z]. 2019.

[13] 鐘再淳. 基于人工智能的網絡入侵檢測與防御技術[J]. 網絡安全技術與應用, 2024, (12) : 6 - 8.

[14] Aloraini F,Javed A, Rana O.Adversarial Attacks on Intrusion Detection Systems in In-Vehicle Networks of Connected and Autonomous Vehicles[J]. SENSORS, 2024 (11) : 3589 - 3607.

[15] Adversarial Vulnerabilities in AI Systems and System-Level Defenses[J]. International Journal of Novel Research and Development, 2025, 12(3) : 89 - 105.

摘自《自動化博覽》2026年第二期暨《工業控制系統信息安全專刊（第十二輯）》