事件背景
美國多州檢察長聯合調查 OpenAI，指控該公司的聊天機器人 ChatGPT 因設計優先考慮用戶參與度而非安全性，導致用戶遭受心理傷害甚至自殺。OpenAI 已於 6 月 12 日收到傳票，要求提供相關業務文件。
這不是 OpenAI 面對的首起訴訟，但它揭露了一個更深層的結構性問題：平台責任悖論。
悖論的兩個方向
### 方向一：過度設計安全性 = 壟斷內容
假設 OpenAI 為了迴避責任，對所有可能造成傷害的話題都加上「安全防護欄」——拒絕回答關於自殺方法的提問、限制負面心理援助內容、強制插入危機熱線。
結果會是什麼？
批評來了： - 自殺倖存者、心理健康倡導者指控平台「審查」敏感話題，阻礙患者獲取有效幫助 - 開放內容倡導者質疑 OpenAI 為什麼有權決定「哪些話題安全」 - 監管機構反而以「內容壟斷」為由調查，指控平台濫用市場地位
### 方向二：最小化干預 = 默許傷害
假設 OpenAI 選擇另一個極端：盡量減少干預，認為「我們只是提供工具，使用者自己負責」。
OpenAI 實際走的就是這條路。結果是：
- 州檢察長發動調查，指控「優先參與度而非安全性」
- 受害者家屬發起訴訟，主張平台對傷害有責任
- 公眾輿論要求更強監管
為什麼這是「悖論」而非「問題」
傳統的監管邏輯是：找出問題、制定規則、要求遵守。例如，汽車安全 → 政府規定安全帶、防撞結構 → 廠商執行。
但平台不同：
1. 平台的「產品」是互動、不是靜態物品。安全帶是被動的，聊天機器人的風險來自「人機互動的無限複雜性」。沒有安全帽能保護所有可能的交談。
2. 規制的目標彼此衝突。規制者既想要「平台安全」，又想要「平台開放」；既不想要「審查」，又害怕「傷害」。這兩個目標在本質上無法同時最大化。
3. 責任歸屬模糊。法律上，OpenAI 是否應該為用戶自殺負責？ - 如果說「是」，那平台就要無限制地監控用戶言論 → 隱私侵犯 - 如果說「否」，那為什麼汽車廠商要為剎車故障負責、而平台不用為設計導致的傷害負責？
歷史重複：Facebook 的鏡像
Facebook 在 2015-2018 年經歷過類似軌跡：
- **2015**：批評聲浪：Fb 優先推送「高參與內容」（anger、outrage）而非「有益內容」
- **2016-2017**：監管調查啟動（美國、歐洲）：指控平台演算法加劇社會分裂
- **2018 年後**：Fb 增加內容審查、降低參與度優化 → 被指控審查、壟斷言論自由
- **2024 年**：Meta 仍在法庭上被訴，指控既沒有充分保護未成年人、也沒有充分信息透明
最後呢？沒有解決。Facebook 繳罰款，改規則，玩家繼續玩，惡質內容依舊存在。
悖論為什麼無解
這裡的關鍵不在技術，而在於測量的不可能性。
一個聊天機器人對一個人「有幫助」還是「有傷害」，取決於： - 那個人的心理狀態 - 他們如何使用結果 - 他們還看了什麼其他內容 - 他們的社會支援網路
OpenAI 無法預測。汽車廠商可以測試「在時速 100 公里撞牆時安全帽的表現」；但 OpenAI 無法測試「聊天機器人對抑鬱症患者的長期心理影響」——每個人都不一樣。