事件
一位《The Verge》的記者用 Google Gemini 生成式編程功能,只花一句提示詞就獲得了一個完整的後院園藝應用。五分鐘內,應用在預覽視窗中成形。但隨即出現一個報錯:「Channel is unrecoverably broken and will be disposed!」
故事的詭異之處在於:記者既不知道這個錯誤的技術根源、也不知道自己是否有能力修復它。他只是遵循本能,點擊了 Gemini 提供的「修復」按鈕。233 秒後,系統報告修復完成。
表面現象 vs 隱藏機制
表面看,這是技術進步的勝利。一個完全不懂程式設計的人,用自然語言描述需求、就得到了可運作的軟體。在過去,這需要專業編程師花費數小時、需要使用者有特定的技術背景。
但深一層看,發生了什麼?
1. 能力獲取的成本趨近於零 — 不需要學習程式語言的語法、邏輯、除錯方法。只需會說話。
2. 理解成本被無限推延 — 使用者成功了,但不知道成功的內部機制。那個 bug 是什麼?為什麼會出現?修復按鈕改變了什麼?答案都在黑箱裡。
3. 依賴與無力的悖論 — 當工具變聰明時,使用者相對變得更無知。記者對自己創造的應用的掌握度,遠不如一個學過 React 的學生對自己寫的程式的掌握度。
伊凡·伊里奇的預言
1973 年,奧地利社會思想家伊凡·伊里奇在《非學校化社會》中提出:當工具變得過度專業化且不透明時,使用者會陷入「反生產性(counterproductivity)」的陷阱——表面上工具提升了生產力,實際上卻削弱了人的自主性與理解能力。
他用醫療與運輸舉例: - 汽車讓出行更快,但讓人的身體變弱、對地理環境的認知變淡薄。 - 現代醫學讓疾病診斷更精確,但讓患者喪失對自身身體的主人翁意識。
GenAI 編程工具正在重複同樣的故事。
三個層級的無力
### 第一層:技術棧的黑箱化 使用者不知道 Gemini 如何將自然語言轉換為程式碼、不知道背後用了什麼演算法、訓練資料是什麼。當結果出錯時,除了接受系統的修復建議,別無選擇。
### 第二層:決策權的喪失 GenAI 不只執行指令,它還在做決策——選擇用什麼架構、什麼資料結構、什麼命名規則。使用者看不見這些中間選擇,因此也無法質疑或調整。
### 第三層:學習路徑的被切斷 傳統上,新手程序員通過「試錯」學習。寫一個 for 迴圈、跑起來、報錯、理解錯誤、改正。每個錯誤都是認知的分子。但當 AI 自動修復 bug 時,學習迴圈被打破了。
能力假象與真實無力
記者在報導中透露了一個深層的不舒適感:
> 「Pretty weird that I just instructed a computer to build a whole app for me with a single prompt, but it needed me to click a button to fix a bug."
這個「weird」很關鍵。他有成就感(我創造了一個應用!),同時又有挫折感(我根本不懂它怎麼運作)。這兩種感受的衝突,正是工具民主化悖論的典型症狀。
跨域啟示
這不只是編程的問題。相同的模式正在影響:
- **設計**:Canva / Figma AI 讓非設計師能出漂亮圖片,但大量「為了漂亮而漂亮」的作品充斥市場。
- **寫作**:ChatGPT 讓所有人都能寫文章,但內容工廠與原創思考的邊界被模糊化。
- **診斷**:WebMD 讓患者自我診斷,但也助長了過度醫療與焦慮。
- **投資**:Robinhood 讓散戶零成本交易,但散戶虧損率反而提升。
共通點:工具越簡單、使用者越多、但整體理解度越低、風險越大。