邀請函 | 假先知
預測，自智慧生命出現以來就已存在。在工業化之前，人類能夠預測其他動物的行為，這讓他們在面對身體上的劣勢時依然強大，也更容易狩獵。在現代世界，預測持續帶來一系列競爭優勢：例如，如果你經營一家公司，從選擇進入或退出哪些業務，到找到適合營運地點，都部分取決於預測。
AI時代帶來了預測的蓬勃發展。機器學習——也就是最常在聊天機器人及招聘軟體等決策演算法中使用的AI——是一種預測機器。它利用歷史數據填補空白，無論是預測文字還是判斷某人是否會成為優秀員工。“Oracle”甚至在機器學習領域是一個技術術語：指完美預測的系統。
預測演算法無處不在，為我們開啟和關閉大門：決定我們是否能獲得保險、貸款或公寓。執法機構使用預測警務工具，標記出高風險的社區或個人。預測演算法也被用於司法系統，以輔助關於保釋、量刑和假釋的決策。串流平台和社群媒體動態也依賴它們來篩選內容。
利用預測技術做出關於個人的決策，引發了許多倫理問題，而人類至今為止投入的思考時間卻令人擔憂。對這些問題投入更多思考，將能讓我們做出更好的決定，知道何時應該使用預測，何時不應該使用。
預測，在最好的情況下，是經過深思熟慮的猜測。但通常，它們充滿了偏見；關於AI預測偏差，由於訓練數據或演算法設計缺陷而產生的相關文獻不斷湧現。演算法預測的判決也創造了卡夫卡式的流程，人們無法對決策提出異議，因為這些決策並非基於明確定義的標準，而是基於機器進行的黑箱模式匹配。
在更深層次上，社會預測中存在著傲慢。當我們像預測天氣一樣預測人們的未來時，我們將他們視為惰性物體，而不是擁有自主權，並且能夠挑戰機率的因素。
預測AI的輸出可能聽起來像是對世界的描述，但它們是“規範性的”：它們暗含著我們應該怎麼做。當大型語言模型告訴我，在未來每個人都會使用大型語言模型來經營他們的業務時，它是在鼓勵我去實現創作者對世界的願景。在哲學術語中，預測是“言語行為”，更接近命令而非描述。當我們給予它們信任並相應地行動時，我們就是在服從它們。
這就引出了倫理上的問題：我們是否應該預測某些事情，即使我們有能力做到？關於人類的預測，往往會使現實朝著預測的方向彎曲。在古代羅馬的不同時期，當局禁止關於皇帝死亡的預言，原因很簡單，因為這些預言往往會導致皇帝被謀殺。一個 AI 預測某人將面臨黯淡的財務前景，可能會因為導致其無法獲得信用而將其推入更嚴重的經濟劣勢。對未來疾病的預測可能會導致保險費上漲，使財務更加緊張，並因壓力而導致健康惡化。
\n\n令人不安的是，現在我們比以往任何時候都更頻繁地使用預測，卻沒有任何相關的規範。甚至連公共討論的「安全網」都很少。存在許多重大的問題。例如，在司法領域，我們是否應該優先考慮透明且可爭議的標準，而不是用於做出決定的統計模式匹配？在保險領域，是否公平地根據日益個性化的預測來設定保費，這有悖於該行業核心的風險分散原則？
\n\n缺乏規範使得任何人都可以自由地使用 AI 對他人做出任何類型的預測，並據此採取行動，甚至沒有通知預測對象，他們的身不由己受到預言的影響。如果 AI 判斷某人不可雇用，而大多數公司都使用類似的 AI 來招聘人員，那麼那個人就無法獲得工作。但很可能 AI 在追求「準確性」的同時，正在創造它所聲稱要預測的現實。更糟糕的是，自我實現的預言就像完美的犯罪，因為它們不會產生錯誤信號。我們永遠無法知道沒有獲得工作的那個人在成為一名優秀的員工，因為這些數據並不存在。
\n\n將 AI 僅僅視為技術來思考是一種錯誤。從倫理角度考慮它同樣至關重要——不僅僅是為了知識的追求，而是因為它的預測功能對人類的行為和他們所能實現的目標產生了具體且值得質疑的影響。雖然它的方法與過去的預言截然不同，但 AI 在將有爭議的、帶有價值判斷的決策偽裝成事實中所扮演的政治角色，與歷史上的先知、通靈者和占星師的角色相似。試圖預測人們的未來，與試圖控制他們的手聯手。如果我們知道某人在明天會做什麼，那麼很有可能，是因為我們正在決定他們的行為。
\n\n提防預言家和預測。只有當我們接受我們不知道未來會如何，並相應地行動時，我們才能確保生活在一個自由的社會中。■
Carissa Véliz 是一位牛津大學哲學與倫理學副教授，也是《預言：預測、權力與對未來的鬥爭，從古代神諭到 AI》的作者。
本文由 zlibrary 從 https://www.economist.com//by-invitation/2026/04/21/ai-is-the-new-oracle-of-delphi-thats-bad-news 下載。