生成式 AI 淪為駭客「生產力工具」！從東南亞詐騙中心到中東關鍵設施，AI 驅動的攻擊正以百兆級規模席捲全球。微軟一年內攔截 40 億美元非法交易，Anthropic 則因 AI 模型威力過強被迫延後發布——2026 年，這場「以 AI 對抗 AI」的資安長城保衛戰已全面開打。
近年來，以 ChatGPT 為代表的生成式人工智慧（AI）技術快速發展，卻也成為網路犯罪分子的新利器。犯罪集團利用 AI 軟體工具，從製作惡意電子郵件、深偽（deepfake）影片，到自動化搜尋系統漏洞、生成勒索軟體贖金通知，甚至分析竊取而來的數據，大幅強化了詐騙手法與攻擊規模。
根據《MIT Technology Review》報導，AI 技術不僅降低了犯罪門檻，也使網路滲透攻擊變得更快速、成本更低廉且更容易執行。例如，國際刑警組織（Interpol）觀察到，東南亞地區的詐騙中心正採用低成本的 AI 工具，以擴大受害對象數量，並能迅速轉移陣地以逃避追查。阿拉伯聯合大公國也聲稱，已成功挫敗一系列鎖定關鍵部門、由 AI 支援的網路攻擊。
微軟（Microsoft）指出，在 2024 年 4 月至 2025 年 4 月期間，該公司已成功阻擋價值高達 40 億美元的詐騙與非法交易，其中許多案件可能都與 AI 生成的內容有關。微軟的 AI 系統每日處理超過 100 兆筆潛在惡意或可疑的數位訊號。AI 生成的垃圾郵件攻擊數量龐大，即使攻擊精密度不高，只要能接觸到未經防護的電腦或毫無戒心的受害者，其效果依然顯著。
面對這股新型態的威脅，防禦方同樣積極應對。例如，美國 AI 公司 Anthropic 開發的一款名為 Mythos 的模型，就曾發現數千個包括所有主流作業系統及網路瀏覽器在內的關鍵漏洞。由於其強大的能力，Anthropic 延遲了 Mythos 的發布，並與其他科技公司共同成立了 Project Glasswing 專案，致力於發展防禦性技術。儘管網路安全研究人員認為，軟體更新與網路安全協定等基礎防禦措施，仍能有效遏止較不精密的 AI 攻擊，但面對未來可能更為複雜的 AI 驅動攻擊，防禦的有效性仍充滿不確定性。許多企業正努力應對日益增長的網路攻擊量，預計隨著更多犯罪分子加入及 AI 能力提升，此問題將持續惡化。
