AI 資安軍備競賽：攻擊者與防禦者的下一回合
- Threat Hunter Team
- 11月24日
- 讀畢需時 4 分鐘
人工智慧（AI）正在重新改寫資安戰場的節奏。從生成式 AI 讓網路犯罪者更輕易量產釣魚郵件，到 Agentic AI（自主代理）為攻擊活動開啟新可能，攻防雙方的拉鋸已經正式邁向新的階段。
Symantec 與 Carbon Black Threat Hunter 團隊在最新白皮書中指出：攻擊者的能力正在提升，但防禦者其實擁有更長的 AI 實戰經驗。真正的差距不在技術，而是在反應速度、治理深度與架構一致性。
AI 與釣魚攻擊：語言能力被放大，攻擊門檻被降低
生成式 AI 最快產生實際影響的領域，就是釣魚攻擊（Phishing）。
為何？因為 LLM 完美補上攻擊者最弱的一塊：語言能力
多數攻擊團體來自非英語系國家，過去最容易露出破綻的是語法錯誤、語氣不自然、格式不專業。但現在：
LLM 可直接生成完整釣魚郵件
自動修飾語氣、 tone、語法
即時翻譯成多語版本
可依場景「模仿 HR、公部門、銀行」等聲音
即便 LLM 有安全防護，不會直接「寫釣魚信」，攻擊者仍可透過巧妙 prompt繞過限制。
此外，Phishing-as-a-Service（PaaS）因為有 LLM 加持，門檻更低、客製化更快，吸引更多低技術門檻的攻擊者投入。
生成式 AI（Gen AI）最先引爆攻擊質變的領域，就是 Phishing（釣魚）。
過去攻擊者最常露餡的就是語言能力問題（語氣奇怪、格式不專業、語法錯誤）。但現在 LLM 大幅補上這個弱點：
能生成完整的釣魚郵件
自動修正語法、語氣、格式
可模仿特定職位或單位的溝通風格（HR、政府機關、金融業）
即時翻譯成多語版本
雖然 LLM 會拒絕 “寫一封釣魚信”，但攻擊者可以透過 prompt 包裝意圖繞過限制。
下圖示範：攻擊者如何用 prompt 讓 ChatGPT 寫出可用於釣魚詐騙的內容：
生成式 AI 也讓 Phishing-as-a-Service（PaaS）變得更容易使用，攻擊者不需要具備技術背景，只要能操作介面，就能快速生成多語、客製化的釣魚素材。攻擊者數量因此全面擴張，攻擊頻率也明顯上升。
AI 與惡意程式開發：速度提升，但還需要人類「補刀」
Symantec 與 Carbon Black 在 2024–2025 年觀察到：愈來愈多惡意程式碼帶有明顯的 AI 生成特徵。
常見的線索如下：
1. 過度乾淨的結構與函式命名
腳本被切成整齊的 function：Get-TDir, DL_File, Unzip, Run-Exe、Add-WDExclusion——這些命名方式更像教學範例，而不像真實攻擊程式。
2. 註解太完整、語氣太正式
LLM 喜歡在每行或每段加完整註解，而且語法完美。這對攻擊者來說完全不必要，也反而是「AI 痕跡」。
3. 攻擊鏈呈現「教科書式」步驟
通常會依序進行：
建資料夾
設 TLS
下載 ZIP
解壓
加 Defender 排除
執行 EXE
這種流程乾淨到不自然 —— 是研究人員能判斷是 AI 生成的重要關鍵。
下圖是白皮書中的範例：
研究團隊指出：LLM 可以加速寫出惡意碼雛形，但仍無法完全自行生成能直接使用的惡意程式。最終仍需人類調整與補強邏輯。
Agentic AI：攻擊活動的下一個躍升
2025 年最值得關注的，是 AI Agent 的加入。
Agent 不只是生成文字，而是：
會自己找資料
自己推論
自己執行多步驟任務
Symantec Threat Hunter 用 ChatGPT Agent（原名 Operator）做了實驗：
讓 Agent 自行：
找出組織內某位員工
推測其 email
撰寫 PowerShell 資料收集腳本
組合一封誘因郵件
寄給目標
最終：只需要很少的人工提示，Agent 就能完整自動執行這段攻擊程序。
這種能力尚在早期，但趨勢明確：未來攻擊者很可能只需一句話：
「攻擊某某組織。」
Agent 就會自己：
搜集資訊
發動攻擊
橫向移動
持續滯留
自動調整攻擊策略
攻擊起點與規模將被全面放大。
防禦者的優勢：Symantec / Carbon Black 具有 20+ 年 AI 實戰深度
攻擊者使用 AI 是近兩年的事； 防禦者使用 AI 是 20 年的累積。
Symantec 與 Carbon Black 在 AI 防禦上的核心技術包含：
Bloodhound（早期 AI 行為偵測）
SONAR（行為分析）
Reputation-based Security
Cynic 雲端沙箱
Cloud Analytics（多階段攻擊識別）
Adaptive Protection（自動化政策建置）
Incident Prediction（預測攻擊者下一步）
其中 Incident Prediction 是市場上最具突破性的能力：能預測攻擊者下一步行為，並在發生前預先阻斷（最高可達 100% 信心度）。
這是目前業界最接近「前置防禦」的技術。
AI 是攻擊放大器，也是防禦加速器
AI 同時強化攻擊者與防禦者的能力。真正決勝的不是工具，而是：
可視性是否足夠
治理是否到位
架構是否一致
事件能否被提前預測並阻斷
AI 攻防的差距，落在執行力與架構成熟度，而非技術本身。
Westcon Taiwan｜給夥伴的下一步行動建議
AI 正在重新塑造攻防節奏，但真正決定成敗的，仍是企業與夥伴能否把「可視性、治理、與架構一致性」建得夠快、夠深。
身為 Symantec 與 Carbon Black 在亞洲的核心代理商，Westcon Taiwan 正協助台灣夥伴在這波 AI 加速的威脅循環裡：
快速取得最新白皮書與技術深度解析
串接品牌技術團隊與 Threat Hunter 情資
提供 PoC、技術評估與專案架構建議
協助你向客戶清晰說明 AI 攻擊與 AI 防禦的差異化價值
如果你正在評估：
如何把 AI 威脅納入客戶提案
如何在 EDR／XDR／資料防洩漏場景中強化 AI 防禦能力
如何讓客戶從「工具」進化到「治理、可視性、預測式防禦模式」
歡迎與 Westcon Taiwan 聯繫，我們能協助你把品牌技術、在地市場洞察與最新攻防趨勢整合成 可落地的安全方案。
👉 需要白皮書、簡報素材或技術討論，請直接私訊 Westcon Taiwan 業務／行銷團隊。讓我們與你並肩，把 AI 帶來的複雜性，轉化為真正能落地的競爭力。
留言