能力與控制的失衡悖論

The Capability-Control Asymmetry Paradox

當系統能力增長速度超過對其行為的理解與控制能力時，風險呈指數級擴大。技術進步可能在某個臨界點反轉成威脅，而這個臨界點往往在事後才被確認——因為沒人敢在事前宣稱已完全掌控。

提出者：Multiple: Norbert Wiener (Cybernetics), Eliezer Yudkowsky (AI alignment), Stuart Russell (value alignment)