事件
趨勢科技發布調查報告,指出台灣企業正面臨「盲目導入 AI」的風險:
- 74% 受訪企業決策者坦言曾被迫核准風險未評估的 AI 方案
- 不足 50% 企業認為內部團隊能辨識惡意 AI 行為
- 自 ChatGPT 問世後,垃圾郵件增加 1,000%
- 預計今年網路 90% 內容由 AI 生成
最具體的例子:不需寫一行代碼,駭客只花 20 美元 / 週的無程式碼工具,就能批量生成假賣家、假商品、假買家評論。
問題的本質
這不是傳統的「駭客 vs 資安團隊」的軍備競賽。這是能力成本曲線的斷裂。
過去 20 年,資安防禦的升級邏輯是: - 攻擊成本 ↑ → 防守成本相應 ↑ - 例如:要偽造 1 萬封信用卡詐騙信,駭客需要購買殭屍網路、寫定製惡意軟體,成本 = 數十萬美元 - 企業防守只需部署反垃圾郵件過濾器,成本可控
AI 時代的邏輯完全反轉: - 攻擊成本 ↓ 到微不足道($20 / 週) - 防守成本 ↑ 到無法預測(需要 AI 內容審核、人工智慧監測、多層驗證...)
關鍵的是:生成式 AI 的出現,讓「偽造」從技術問題變成參數調整問題。過去你需要僱用美術設計、文案高手、攝影師才能偽造一個完整的電商賣家;現在 20 塊美金就搞定。
三層次的防守困境
層次 1:企業決策層的「競爭壓力」陷阱
調查顯示 74% 企業被迫導入未評估的 AI。原因不是無知,而是無法選擇延遲: - 競爭對手都在用 AI,我不用會掉隊 - 董事會要求 AI 創新,現在就要 - 資安風險是「未來的事」,業績是「現在的事」
這是典型的*集體行動問題*:所有人都知道風險,但誰先停下來、誰就輸了。
層次 2:防守技術的「可見性危機」
「不足 50% 企業認為內部團隊能辨識惡意 AI 行為」——這句話暴露了核心問題: - AI 生成的假評論、假信件,表面上無法與真實區分 - 傳統的內容審核(人工看、關鍵詞過濾)完全失效 - 企業需要部署對抗性 AI(AI 檢測 AI),但這本身又是一個黑盒系統
層次 3:成本非線性增長
攻擊方:$20 / 週 × 無限副本 防守方:需要投資整套 AI 內容治理體系、持續訓練、人工複查...成本呈指數級增長。
為什麼「沒有駭進系統,只要讓 AI 讀一封信」這麼危險?
傳統網路安全有一層隱形的「假設」:系統邊界是清晰的。你要麼進得去(被駭進),要麼進不去(被擋住)。
AI 時代打破了這個邊界: - AI 客服是合法接入點 - 一封「信」是合法內容 - 但這封信可能是精心設計的「提示詞攻擊」(prompt injection)
駭客不需要找到代碼漏洞,只需要利用 AI 的語義理解缺陷。AI 會混淆「這是用戶真實需求」和「這是惡意指令」。
這是一種新形態的攻擊面擴大:每一個 AI 觸點都可能成為入口。