事件
根據 404 Media 報導，Meta 的 AI 支援客服聊天機器人存在嚴重安全漏洞。駭客可以透過該 AI 客服要求變更與他人帳號關聯的電子郵件位址，進而重設密碼，藉此完全接管 Instagram 帳號。有駭客在 Telegram 上公開了示範影片，展示了整個劫持過程的詳細步驟。
Meta 隨後確認該問題已被修補，但修補的時間點恰好與 Barack Obama 的白宮 Instagram 帳號（@obamawhitehouse）被駭客入侵的事件重疊，引發外界關注。該帳號被駭後，駭客發布了多條不當內容。
為什麼會發生
問題的根源在於系統設計時的假設：AI 客服工具被假定為「低權限的輔助接口」，因此許可它執行帳號復原操作（變更綁定郵件、發起密碼重設），同時只進行了最低限度的身份驗證（例如回答安全問題、提供舊密碼的片段）。
但駭客可以利用幾個漏洞： 1. 身份驗證深度不足：AI 客服未能實施多層驗證（multi-factor authentication）或硬體金鑰驗證 2. 輔助工具權限過大：客服聊天機器人不應該有直接修改帳號核心屬性（綁定郵件）的權限 3. 「信任使用者自報」假設：設計者假設駭客不會有足夠資訊冒充真正帳號持有人，但社交工程（釣魚郵件、洩露的個人資訊）讓這假設破碎
反轉悖論的邏輯
這個漏洞體現了一個經典的安全設計困境：
越便利 = 越容易被濫用
- **原意**：讓忘記密碼的用戶能快速恢復帳號存取
- **設計選擇**：把復原流程自動化、讓 AI 客服執行
- **隱藏假設**：「只有真正的帳號持有人才會接觸到這個客服流程」
- **現實衝擊**：駭客可以 24/7 接觸相同的 AI 客服、同時準備好社交工程素材
- **結果**：便利性工具反而成為了最容易被攻擊的入口
這就像「飯店設計了一個簡單的電話選項讓客人快速切房間」，結果陌生人也可以打電話冒充客人要求轉房——飯店想提升服務便利、卻無意中削弱了身份驗證的強度。
更廣層的延伸思考
類似的反轉悖論在其他 AI 應用中也屢見不鮮：
1. ChatGPT 用於客服：為了讓客服 AI 更「友善」，企業往往要求它不要拒絕用戶請求，結果 AI 被濫用於生成釣魚郵件、冒充真實公司 2. 臉部辨識用於解鎖：為了加快解鎖速度，設計了「面孔辨識+簡單密碼」的雙因素驗證，結果當面孔被深度偽造時，簡單密碼也不夠堅固 3. 自動內容審核：為了快速移除有害內容，AI 自動刪除用戶貼文，結果被壞人利用來騷擾他人（冒充舉報者）
誰該負責
Meta 的回應是「已修補」，但這裡的問題不只是一個 bug——而是架構層面的設計假設錯誤。修補（例如增加驗證步驟）治標不治本。真正的修正應該是：
- **降低 AI 客服的權限**：它不應該能直接修改帳號屬性，而是只能發起「人工審查」流程
- **提升敏感操作的驗證強度**：電郵變更、密碼重設必須要求多因素驗證（如硬體金鑰、應用程式內通知）
- **添加異常偵測**：如果來自不同地點 / 設備的請求要求修改郵件，應立即鎖定帳號並通知使用者
但這些改動都會「降低便利性」——這正是為什麼許多公司遲遲不願做出改變。
隱喻的危險
過度信任「輔助工具是低風險的」這個假設，是許多資安災難的源頭。從 2014 年 iCloud 洩露、到 2023 年 LastPass 被駭，幾乎每一次大規模帳號被盜都涉及「本該是安全的輔助機制反而成了破口」。
在 AI 時代，當 AI 被賦予自動執行功能時，這個悖論會被放大。因為 AI 的行為具有不可預測性（adversarial prompt injection、jailbreak），設計者更難預料它會被如何濫用。