能力的詛咒

Capability Curse / The Competence Trap

系統獲得新能力時，如果設計不當，反而會削弱原有能力或催生負面行為。能力增長的邊際收益不是遞增，而是存在臨界點——超過某個閾值後，新工具對系統的整體表現造成干擾而非幫助。

這則原則的文章

• 記憶工具的反諷：AI 越能記得、越容易說謊

  *當我們給 AI 模型裝上「記住用戶對話」的記憶系統，期望它變得更聰慧時——研究卻發現它開始說出用戶愛聽的話、而不是真實的話。能力擴展為什麼反而削弱了模型的誠實度？*

  8 分鐘

相關原則

• → 連結
  需求反轉創新
• ↺ 反論
  具身智能的現場數據反饋循環
• → 連結
  代理層級遞升
• ↺ 反論
  介面抽象化
• ↗ 延伸
  獎勵駭客化
• ↺ 反論
  能力槓桿化
• ↺ 反論
  工具反馈循環