AI造假

本書探討AI的本質：人工性與虛假性（artificial），釐清對於AI的各種誤解以及許多過度不合理的預測，提醒大眾注意各種濫用AI的造假行為，呼籲政府與企業負責任的管理，才能使AI造福人類，提升我們的生活，而不是為禍肆虐造成災害。

本書先由AI的開發史談起，介紹過去與當今有關人工智能的各種造假，不只限於使用AI技術的造假行為，也包括那些其實本身不含真正的人工智能技術，卻假裝是AI的造假行為。「假」(fake)是本書的核心概念，作者提醒，無論AI模仿得再怎麼像人類，它的本質畢竟是虛假的，跟真正的人類智能有很大的不同。AI的A，Artificial這個英文詞彙除了「人造的」，同時也含有虛假的意涵在。(這點很類似中文字「偽」由「人為」所組成)。 AI不可能真正擁有感覺、情緒、自我意識、道德價值判斷，儘管它可以在表面上裝做很像是有，但終究是假的。

作者也對常見的對AI科技進展過度樂觀的預測做出否定，但立場與用意不是要反AI、或者呼籲人們拒絕使用AI，相反的，作者對AI能提升人類生活的前景基本上是樂觀的，但前提是人們要對AI的真正本質有正確理解，正確規範，讓人與機器程式做出明確區別，才能避免AI的各種濫用、作惡。

AI領域中隱藏了多少虛假性？當中有多少炒作成分？追溯過去相關的發展歷史：早在十八世紀就曾有轟動一時的「土耳其人」機器，號稱會自動下西洋棋，但這是騙局，其實都是由藏身在機器內的人類操縱。此後，人工智慧一路發展下來總是會出現種種作假行徑。前幾年曾一時轟動媒體的機器人索菲亞(Sophia)其實也是一種假AI，或者說事實上AI成分很少，對話與動作都是事先編寫好的，其智能性甚至還遠低於蘋果手機的Siri。

AI固然可以為人類帶來便利，但種種不負責任的造假行為也危害不淺，從深偽技術(Deep Fake)遭到濫用於散播政治謠言、色情、詐騙等，到臉書等科技公司為了商業利益而洩漏、濫用個資等等。ChatGPT也常會無中生有，生成虛假不真實的內容。本書一一解析各式各樣造假的亂象，提醒大眾警覺，並敦促各國政府立法加以管理，尤其是AI及其生成內容必須明確標示，不可誤導他人誤以為那是真實的人。唯有正確理解AI的本質，有效的監督管理，AI才能真正造福人類，將我們帶向更便利的生活、更美好的未來。

作者簡介

托比．沃爾許 (Toby Walsh) ，英國籍，愛丁堡大學人工智能博士，是澳洲新南威爾斯大學的人工智慧科學講座教授、人工智慧研究所首席科學家、澳洲科學院院士，世界知名的人工智慧學者專家。曾任澳大利亞 ICT 研究卓越中心NICTA的科學總監、人工智能促進協會執行委員、《AI Research Journal》與《AI Communications》期刊主編，曾主持多項AI領域的國際會議。他2017的著作《It’s Alive!》被英國政論雜誌《New Statesman》選為年度好書之一。托比是《美國科學人》、《新科學人》和《衛報》的固定撰稿人

譯者簡介

戴至中，政大新聞系畢業，現為職業譯者，譯作包括《2062 人工智慧創造的世界》、《Metadata後設資料》、《資料視覺化圖表全書》等。

人工智慧正以有增無減的速率在進步。因此，等各位讀到本文時，我可以保證，
AI將又有新的應用，以新奇的方式來讓我們憂心。當然，我們過去曾就遇過別的科技來挑戰。但人工智慧受到採用的速度與規模，卻是
前所未有的。

引起許多人想像的人工智慧聊天機器人ChatGPT是歷來成長最快的應用程式，我認為
這並非偶然。它在公開第一週即達到了上百萬用戶，第二個月結束時達到了上億，現在則
達到了超過十億用戶，甚至透過Bing、Skype和SnapChat即可使用。SnapChat應用程式甚
至推出一個My AI的聊天機器功能。各位有沒有發現到，你也會有自己所需要的
AI？
不過我有信心，本書所點出的課題不會過時。確切來說，我確定這些課題會更加緊
迫，而且本書還將會是變得越來越有用的指南和警告：我們會更加受到假冒的
AI，和AI的假冒所欺騙。因此，現在是關切這些議題的公民們到了該去理解與行動的時候了。

1. AI名稱的玄機 2. AI炒作 3. 假冒智慧 4. 假冒人類
5. 假冒創意 6. 欺騙 7. AI的人工特性 8. 跨越智慧 9. 企業造假 10. 如何防假

欺騙
我們暫且擱置創意，來聚焦另一項非常人類的特徵。人類屢屢會欺騙：我們會說謊；
我們會隱瞞真相，有時候是為了我們自身的利益，但也常常是為了保護與我們談話的人。
全盤吐實是讓交情短命的配方。因此任何足夠聰明能幹的人工智慧，以及任何趕上人類本
領的AI，在我看來很可能都要會欺騙。它欺騙或許是為了確保我們不會在沒必要時不愉
快。但欺騙也可能是為了騙取我們對它的信任，或許是原本就不該有的信任。
二○一四年的科幻電影大作【星際效應】(Interstellar)就出現了會欺騙的機器人。在
電影裡，塔斯(TARS)是美國海軍陸戰隊四具戰術機器人中的一具，風趣、尖酸又幽
默，內在所編程的特徵使機器人會是更有魅力的夥伴。但機器人也不誠實到臉皮超厚，如
同以下與美國航太總署飛行員庫柏(Cooper)由馬修．麥康納所飾演的對話所示範：

庫柏：嘿，塔斯，你的誠實參數是多少？
塔斯：九○％。
庫柏：九○％？
塔斯：要跟有情緒的性靈溝通，絕對誠實並非總是最圓融或安全的形式。
庫柏：好吧，那就九○％吧。
最有趣的提問或許是，未來的AI系統是需要明文編程為無可迴避的不誠實？還是等到
類似的系統足夠能幹時，它就會自行浮現？