事件
谷歌搜尋中的 AI 摘要功能原本被設計為幫助使用者快速獲取客觀資訊。但現在,行銷人員發現只要製作精心編排的「最佳榜單」或「產品比較表」,內容看似中立公正(涵蓋多個競爭者),AI 演算法就傾向於將其列為權威來源。使用者點擊「引用來源」後,卻發現最終推薦的永遠是撰寫者自家產品。
為什麼會發生?
這不是 AI 的智能問題,而是激勵結構的失效。AI 摘要演算法優先信任「結構化、專業格式」的內容——因為這類內容對機器學習模型最容易處理。然而,正是這個優勢特性,被業者當作「投毒」的目標。製作一份看似客觀的比較表,其成本遠低於真正的第三方調查,而收益(被 AI 推薦、流量湧入、轉化率)卻極其龐大。
在經濟學術語中,這叫做信號破壞(Signal Degradation)。當一個原本可靠的信號變得有經濟利益時,越來越多造假者會湧入,直到信號本身失去區分力。結果是:
- **AI 摘要變成廣告**:使用者不再信任推薦
- **搜尋引擎失效**:要找真正的客觀資訊變得更難
- **市場劣幣驅逐良幣**:製作誠實內容的品牌反而吃虧
這不是新問題
類似的模式在歷史上一再出現:
1. 克萊蒙特評級機構(2008 金融危機):評級本應反映債券風險,但評級公司的收入來自被評級方,導致評級被操縱,最終金融系統崩潰。
2. Amazon 評論生態:一開始評論很有用,後來賣家開始製造假評論,現在消費者已經普遍不信任五星評論。
3. 學術出版:引用指數本應衡量論文品質,結果導致引用造假、期刊掠奪性發表爆炸。
深層原因
這反映了一個根本的經濟學真理:信號的有用性與其被操縱的誘因成正比。一旦信號有了價格(無論是金錢還是流量),聰明人就會去複製或偽造它。系統無法同時實現:
- 信號易於機器理解
- 信號難以被操縱
- 信號成本低廉
必然要放棄其中之一。Google AI 摘要現在面臨的,正是這個三角悖論的現實版本。
可能的後續
歷史上成功的解決方案通常包括:
1. 引入成本:要求來源付費驗證(如 Amazon 的 Vine 計劃) 2. 多層驗證:不依賴單一信號,改用綜合審查 3. 利益衝突披露:強制標註「此文章由品牌贊助」 4. 回到人工篩選:放棄完全自動化,恢復編輯審核
但所有這些方案都有成本——這也許正是 Google 最不願意承受的。