未來的錯覺：人類如何與AI共處

「如果開始相信演算法能夠預測未來，那就可能會失去未來。」

在AI的世代裏，

如何保有身而為人的意義？

我們正處於一個迷人的時刻，

在一條人類和AI 共同互動演化的軌道上。

數碼科技的每一步發展，

都讓我們重新思考何以為人。

我們已經開始認為，AI比我們還更懂得自己了。預測演算法會針對我們將要消費的物品、未來的行為、情緒狀態提出建議，我們甚至自我馴化，去符合AI的預測結果。當我們以為利用AI 可完全掌控未來時，事實上正好相反。

奧地利社會學家諾沃特尼，在本書延續了她對科技與社會關係、社會時間的經驗與不確定感的研究，從哲學、歷史、社會學、科學角度，探究在數碼人類世，AI如何重塑我們的身分，我們又該如何跟AI共處。

演算法的能力太強了，我們輕易就忘記了「理解」和「預測」之間的重要關係。然而，我們不可屈服於效率的便利，不可放棄理解的渴望，不可拋下背後的好奇心與毅力。

------------------------------

在文化演進的路上，人們一直運用科學和科技加速往前邁進。然而面對日益複雜的人類危機，如氣候變遷、公共健康、政治和社會不平等問題上，諾沃特尼主張以數碼人文主義的價值觀，作為設計演算法和AI系統的起點，而非單純的量化數據。本書的論述採用了跨學科的取向：科技和科學、歷史、社會學、哲學等等，不僅對科技人，對任何希望探究人工智能如何影響人類體驗的大眾讀者來說，都是一本極具啟發性的讀物。

——金國慶，香港中文大學計算機科學與工程學系系主任

在這本充滿智慧而重要的著作中，海爾格．諾沃特尼描述了我們現況的不確定性如何被數碼科技帶來的興奮所掩蓋；不完整的預測如何輕易地演變成政策；以及道德上的遲疑不決如何往往被委婉地說成為效率。人類精神和機械工具將在未來共同演化，面對這樣一個開放的未來，這本書為我們提供了重要的參考。

——大衛．克拉考爾（David Krakauer），美國聖塔菲研究所所長

作者

海爾格． 諾沃特尼（Helga Nowotny）社會科學家。前歐洲研究委員會主席（2010－2013）、蘇黎世聯邦理工學院榮譽退休教授。她致力於科技社會學（科學與社會共同演化）的研究。2003年因其科學研究上的終生貢獻，獲科學社會研究協會（4S）授予貝爾納獎（John Desmond Bernal Prize）；2017年獲得英國國家學術院總統獎，以表彰她在成 立歐洲研究委員會，及致力推進歐洲科學研究的貢獻。主要著作有 Time: The Modern and Postmodern Experience（Polity Press, 1996;《時間：現代與後現代經驗》，北京師範大學出版社，2011）、Re-Thinking Science: Knowledge and the Public in an Age of Uncertainty（Polity Press, 2001）、An Orderly Mess（Central European University Press, 2017）、The Cunning of Uncertainty（Polity Press, 2017）、In AI We Trust: Power, Illusion and Control of Predictive Algorithms（Polity Press, 2021）等。

譯者

姚怡平 台灣人，譯作四十餘冊。

中文版序 / vii

誌謝 / xi

前言　踏上個人旅程，探索數碼領地 / 1

1 數碼時光機裏的生活 / 29

大教堂思維，就是謙虛承認現在執行的工作奠基在過去所做的事情上，同時積極參與那個可超越一生、超越功利的未來。執行時的知識與意圖，就是要讓大教堂的存在比現在還要長久，並且憑藉著跨越好幾個世代的團隊精神去執行。我們在數碼時光機裏的生活，也需要用到大教堂思維和大教堂建築工。

2 歡迎來到鏡像世界 / 65

我們需要的數碼鏡，這面鏡子什麼也不隱藏，呈現出事物之間相互連結的複雜情況。也許這就是數碼人文主義的重點所在。雖然世界不屬於我們，但是我們持續塑造世界，也被世界塑造。

3 追尋公共幸福與進展型敘事 / 107

重新思考數碼時代的進步有何意義，就要面對不確定感，而首要的就是我們跟數碼機器的互動。現實迫使我們放棄人類的統治幻想，放棄我們對從事及規劃事務的完全掌控感，要我們轉而培養出欣然接納不確定感的能力。

4 未來需要智慧 / 139

未來需要智慧，這句話的意思是要實踐以下精神：設法充分利用過去和現在提供的資源，來引導行為、拓展視野，並協助設計出我們未來會需要的新制度，能夠為明日的問題提供答案。

5 破壞：從疫情前到馴化後 / 175

我們馴化演算法，演算法也反過來馴化我們。馴化演算法就是馴服演算法。在不受管制的蠻荒地帶，演算法自由徜徉，演算法或演算法持有者想怎麼破壞就怎麼破壞，而我們必須從那片蠻荒地帶中，把演算法給拖出來。

參考書目 / 205