我們見證了artificial intelligence in cybersecurity領域的關鍵時刻：七位網路安全專家在拉斯維加斯大都會酒店60層樓的套房中，參與了一場前所未有的網路攻防競賽。這場由德州大學聖安東尼奧分校舉辦的賽事迎來了10支大學藍隊，特別值得注意的是，其中一支隊伍完全由AI代理組成，幾乎獨立運作。這場精心設計的競賽旨在模擬高風險的網路戰爭環境，充分展現了the role of artificial intelligence in cybersecurity的雙重特性。然而，結果也揭示了AI在網路防禦上的明顯侷限：它們能夠協助攻擊和防禦電腦網路，但仍容易出錯，且尚未達到資深網路安全專業人員的水準。
拉斯維加斯網路防禦競賽揭開AI與人類對決序幕
全球網路安全領域正掀起一波AI競賽熱潮。美國國防高級研究計劃局發起為期兩年的人工智能網路挑戰賽，獎金總額高達1,850萬美元。這項由拜登政府支持的競賽目標明確：尋找下一代AI技術，快速識別並修復關鍵軟體漏洞，應用於聯邦政府和關鍵基礎設施。參賽團隊需設計新穎的人工智能系統，保護關鍵軟體代碼。初賽於今年舉行，明年DEF CON大會期間將進行半決賽，2025年DEF CON大賽則舉辦總決賽，冠軍獎金達400萬美元。
在國內，騰訊安全雲鼎實驗室舉辦首個Agent安全攻防賽。這場賽事採用「主賽場+平行賽場」雙賽場模式，驗證AI Agent在複雜滲透任務中的能力。競賽報名超過600支隊伍，較首屆翻倍。值得注意的是，多位初、高中生選手參與，最年輕的參賽者僅15歲。騰訊安全雲鼎實驗室攻防負責人李鑫表示：「AI時代，技術平權。可能一個15歲孩子的靈光一現，解決行業二十年未解的難題」。這些競賽展現了artificial intelligence in cybersecurity的發展潛力，同時也凸顯人類在策略設計中仍扮演關鍵角色。
人工智慧在網路安全攻防中展現雙面能力
網路攻擊者不擇手段地利用AI來獲得入侵企業所需的速度和隱蔽性。EvilAI駭客集團結合AI生成的程式碼與社交工程技巧，發動迅速擴大的攻擊行動，將惡意程式偽裝成正常應用程式來躲避資安防護。谷歌威脅情報小組披露了名為PROMPTFLUX的實驗性惡意軟體，該軟體利用Gemini AI API動態重寫自身代碼，每小時重寫全部源代碼以躲避偵測。統計數據顯示，企業面對生成式AI的安全風險激增，65%的組織定期使用生成式AI，138%的組織積極處理生成式AI的安全風險。
另一方面，applying artificial intelligence in cybersecurity analytics and cyber threat detection展現強大潛力。生成式AI建立高度逼真的網路攻擊模擬，讓安全團隊測試防禦和資安事件回應服務計劃。鼎新數智展出的「數智分身」資安解決方案，其「資安監控工程師」實現24/7全天候監測，精準過濾95%無效警報並即時隔離攻擊源。AI紅隊測試代理提供自動掃描模型與應用端點的風險，評估結果的關鍵指標是攻擊成功率，衡量成功引發AI系統不良反應的攻擊百分比。然而，自動化工具能抓到的大約是已知攻擊模式的60-70%，真正高價值的漏洞只有人類紅隊才能發現。
AI防禦能力的局限性與未來發展方向
IDC指出，在任務重複度較高、難度較低的安全場景，智能體會快速落地，但短期內AI並不會取代安全專家。當前主流安全智能體仍然保留人工審批機制，因為在風險決策、責任歸屬和異常處理方面，人類仍然是關鍵環節。調查數據揭示了防禦體系的脆弱性：近半數主管承認，他們的團隊尚未準備好應對AI攻擊。更令人擔憂的是，60%的資安主管預期隨著DeepSeek這類平台的普及，網路攻擊將直接增加，42%的CISO表示AI現在對防禦體系的威脅大於幫助。
artificial intelligence and machine learning in cybersecurity面臨多重技術障礙。攻擊者利用對抗性輸入操縱機器學習模型，訓練數據中的偏差導致威脅檢測中的誤報。企業常見的AI風險包括機密資料被納入其他公司模型訓練、資料流向地緣政治敏感地區、員工使用未經授權的AI應用程式。銀行內部員工使用超過50種未經批准的AI工具，僅有2種獲得授權。因此，專家建議企業應從「禁止」走向「安全引導使用」，透過瀏覽器端的即時監控、多樣化的模型管控與可視化儀表板，在追求創新的同時有效控管潛藏的資安威脅。
結論
總體而言,我們見證了AI在網路安全領域的雙刃劍特性。競賽結果清楚顯示,AI協助攻防的能力正在提升,但距離取代資深專家仍有一段距離。同樣重要的是,企業必須從「全面禁止」轉向「安全引導使用」的策略。人機協作將是未來網路防禦的關鍵,我們需要善用AI優勢,同時保留人類在策略判斷與風險決策上的核心角色。