「工具與目標的層級錯位」

Hierarchy Mismatch Between Tool and Goal

當系統優化的目標（代理變數）與實際想解決的問題（終極目標）處於不同層級、會產生以工具成功掩蓋目標失敗的現象。語言模型在文本空間預測準確、不代表理解物理世界因果；視覺生成模型生成逼真影像、不代表能在真實環境執行動作。

相關文章

• 世界模型困局：為什麼具身智能背誦了語言卻看不見物理

  *機器人能讀懂「推杯子會掉」這句話、卻推掉了杯子。當我們用語言模型訓練機器人時、優化的是詞序準確性、而非物理直覺——這是一場目標層級的戰爭。*

  8 分鐘