GAN：實戰生成對抗網絡（簡體書）

本書介紹深度學習領域一個十分活躍的分支――生成對抗網絡（GAN）。書中覆蓋了深度學習的基礎、對抗網絡背後的原理以及構建方式等內容。同時本書還介紹了多個真實世界中使用對抗網絡構建智能應用的案例並提供了具體的代碼以及部署方法，旨在幫助讀者在真正的生產環境中使用生成對抗網絡。本書適合數據科學家、算法工程師、數據挖掘工程師以及其他機器學習領域相關的從業人員，以幫助他們在工作中應用生成對抗模型；也適合機器學習和深度學習的愛好者、初學者來瞭解深度學習領域的新魔力。

Kuntal Ganguly是一位大數據分析工程師，其利用機器學習和大數據框架來搭建大規模數據驅動系統。Kuntal具有7年的大數據和機器學習應用構建經驗。
Kuntal為雲上客戶提供搭建實時分析系統的解決方案。這其中利用到了託管式的雲服務和開源Hadoop生態系統工具，諸如Spark、Kafka、Storm、Solr以及機器學習和深度學習框架。
Kuntal也喜歡親自動手參與軟件的開發過程，並且曾經獨自一人完成了多個大規模分布式應用從構思、架構、開發一直到部署的整個過程。他也是一位機器學習和深度學習的從業者，十分熱衷於構建智能應用。

譯者序
機器學習領域的發展日新月異，並已經深入我們的日常生活。語音識別、圖像識別、機器翻譯這些技術都在改變著我們的生活方式，而這些都和深度學習緊密相關。儘管機器擁有的能力越來越令人震撼，然而作為人類的我們依然可以安慰自己說，機器擁有的只是計算能力，只有我們人類才擁有創造性的智能。
誠然目前應用最廣泛的機器學習方式還是監督學習，需要人類預先對數據進行標記，需要人類先驗的經驗總結，機器才能更好地工作。由於人類並不能完全將自己的經驗符號化、數字化，因此，即使機器可以處理更大量的數據，也無法完全擁有人類的智能。而至於音樂、繪畫、文學等藝術創作更被認為是人類的專屬，機器永遠望塵莫及，機器離真正的智能還有很大的距離。
而生成對抗網絡（GAN）的出現，讓事情發生了變化，生成對抗網絡採用無監督學習的方式，自動從源數據中進行學習，在不需要人工對數據集進行標記的情況下就可以產生令人驚歎的效果。從維基百科的詞條學習專業知識，然後寫出一個令普通人可以理解的科普文章，模仿知名畫家的作品並學習他們的風格進行再創作，這種看似只有人類這樣擁有智能和創造性的物種才會做的事情，機器學習現在真的可以做到了！
而這本書的作者Kuntal Ganguly就將在本書中向你介紹這個神奇的技術。生成對抗網絡也是如今深度學習裡最為前沿也是最為令人著迷的領域之一。本書從生成模型的基礎講起，逐步介紹了各種生成對抗網絡的變體和使用場景。除了深度學習相關的理論，書中還有大量基於現實世界的使用案例和代碼，給讀者提供了充足的實踐方法。相信通過本書你可以快速地領略到生成對抗網絡的魅力及其無限的可能性，並將其應用到你的實際工作之中。

前言
本書中提到的概念和模型可以幫助你快速地建立深度網絡，創造性地利用無監督學習方法來完成監督學習領域的任務，例如圖像分類。
利用生成網絡的基本概念，你會學到如何從無標簽的數據中生成逼真的圖像，根據文本的描述信息製作圖像，以及探索跨域的風格遷移以及域之間的關係。
本書的內容
第1章　深度學習概述，以一種簡單的沒有太多數學和公式的方式介紹了深度學習中最新的常用概念和術語。同時也展示了深度學習這些年來的演化，以及深度學習如何利用生成模型逐漸進入無監督學習領域的過程。
第2章　無監督學習GAN，介紹生成對抗網絡的工作原理以及如何構建生成對抗網絡。同時還會介紹深度學習網絡如何應用於半監督學習領域，以及如何應用它們來進行圖像的生成和創作。GAN的訓練十分困難，在本章中會介紹一些提升訓練/學習效果的技術。
第3章　圖像風格跨域轉換，介紹如何利用簡單但強大的CGAN和CycleGAN模型進行創意製作。本章展示了利用條件GAN根據某種特定風格或者條件來製作圖像。本章還討論了如何利用BEGAN進行網絡固化來避免模型坍塌的問題。最後，展示了如何利用CycleGAN來進行跨域轉換（蘋果變成橘子，馬變成斑馬）。
第4章　從文本構建逼真的圖像，展示了利用最新的層疊GAN技術將從文本生成圖像的問題拆分成兩個可控的子問題，並利用StackGAN進行處理。本章還會展示如何利用DiscoGAN成功地進行圖像風格的跨域轉換，包括以邊框的圖像為輸入來輸出手提包的圖像，以及對名人的圖像進行性別轉換。
第5章　利用多種生成模型生成圖像，介紹預訓練模型的概念並討論了利用大規模分布式系統Apache Spark運行深度學習和生成模型。接下來我們會利用GAN和預訓練模型來提升低品質圖像的清晰度。最後，我們會介紹用DeepDream和VAE等其他生成模型來生成圖像和風格轉換。
第6章　將機器學習帶入生產環境，介紹多種將以機器學習和深度學習為基礎的智能應用部署到生產環境的方法，包括基於數據中心的部署方式，以及基於雲環境的容器化微服務部署方式，或基於無服務器技術的部署方式。
閱讀本書的準備工作
本書中所用到的工具、庫以及數據集都是開源的並可免費獲取。本書中提到的雲環境會提供一些免費試用來給用戶進行評測。通過本書以及其他一些機器學習和深度學習的資料，讀者將會發現生成對抗網絡所擁有的無限創造力。
你需要安裝Python並用pip安裝一些相關的Python軟件包來有效地運行本書中提供的樣例代碼。
本書面向的讀者
本書所面向的讀者是那些希望瞭解生成模型的威力以及從無標記的源數據和噪聲中製作逼真圖像的機器學習專家以及數據科學家。
擁有足夠機器學習和神經網絡知識並且能熟練使用Python進行編程的讀者可以通過本書學會如何從文本生成圖像，自動發現相似域之間的關聯，並能基於深度學習和生成模型來探索無監督學習領域的問題。

前言 XII
1　深度學習概述 1
1.1　深度學習的演化 1
1.1.1　sigmoid激發 3
1.1.2　修正線性單元（ReLU） 3
1.1.3　指數線性單元（ELU） 4
1.1.4　隨機梯度下降（SGD） 5
1.1.5　學習速率調優 6
1.1.6　正則化 7
1.1.7　權重分享以及池化 8
1.1.8　局部感受野 10
1.1.9　卷積網絡（ConvNet） 11
1.2　逆卷積/轉置卷積 13
1.2.1　遞歸神經網絡和LSTM 13
1.2.2　深度神經網絡 14
1.2.3　判別模型和生成模型的對比 16
1.3　總結 16
2　無監督學習GAN 17
2.1　利用深度神經網絡自動化人類任務 17
2.1.1　GAN的目的 18
2.1.2　現實世界的一個比喻 19
2.1.3　GAN的組成 20
2.2　GAN的實現 22
2.2.1　GAN的應用 25
2.2.2　在Keras上利用DCGAN實現圖像生成 26
2.2.3　利用TensorFlow實現SSGAN 29
2.3　GAN模型的挑戰 38
2.3.1　啟動及初始化的問題 38
2.3.2　模型坍塌 38
2.3.3　計數方面的問題 39
2.3.4　角度方面的問題 39
2.3.5　全域結構方面的問題 40
2.4　提升GAN訓練效果的方法 41
2.4.1　特徵匹配 41
2.4.2　小批量 42
2.4.3　歷史平均 42
2.4.4　單側標簽平滑 42
2.4.5　輸入規範化 42
2.4.6　批規範化 42
2.4.7　利用ReLU和MaxPool避免稀疏梯度 43
2.4.8　優化器和噪聲 43
2.4.9　不要僅根據統計信息平衡損失 43
2.5　總結 43
3　圖像風格跨域轉換 45
3.1　彌補監督學習和無監督學習之間的空隙 45
3.2　條件GAN介紹 46
3.2.1　利用CGAN生成時尚衣櫃 47
3.2.2　利用邊界均衡固化GAN訓練 51
3.3　BEGAN的訓練過程 52
3.3.1　BEGAN的架構 52
3.3.2　利用TensorFlow實現BEGAN 53
3.4　利用CycleGAN實現圖像風格的轉換 57
3.4.1　CycleGAN的模型公式 58
3.4.2　利用TensorFlow將蘋果變成橘子 58
3.4.3　利用CycleGAN將馬變為斑馬 61
3.5　總結 63
4　從文本構建逼真的圖像 65
4.1　StackGAN介紹 65
4.1.1　條件強化 66
4.1.2　StackGAN的架構細節 68
4.1.3　利用TensorFlow從文本生成圖像 69
4.2　利用DiscoGAN探索跨域的關係 72
4.2.1　DiscoGAN架構以及模型公式 73
4.2.2　DiscoGAN的實現 75
4.3　利用PyTorch從邊框生成手提包 78
4.4　利用PyTorch進行性別轉換 80
4.5　DiscoGAN和CycleGAN的對比 82
4.6　總結 82
5　利用多種生成模型生成圖像 83
5.1　遷移學習介紹 84
5.1.1　遷移學習的目的 84
5.1.2　多種利用預訓練模型的方法 85
5.1.3　利用Keras對車、貓、狗和花進行分類 86
5.2　利用Apache Spark進行大規模深度學習 90
5.2.1　利用Spark深度學習模塊運行預訓練模型 91
5.2.2　利用BigDL運行大規模手寫數字識別 94
5.2.3　利用SRGAN生成高清晰度圖像 98
5.2.4　SRGAN的架構 99
5.3　利用DeepDream生成夢幻的藝術圖像 105
5.4　在TensorFlow上利用VAE生成手寫數字 107
5.5　VAE在真實世界的比喻 108
5.6　GAN和VAE兩個生成模型的比較 111
5.7　總結 111
6　將機器學習帶入生產環境 113
6.1　利用DCGAN構建一個圖像矯正系統 113
6.1.1　構建圖像矯正系統的步驟 115
6.1.2　在生產環境部署模型的挑戰 117
6.2　利用容器的微服務架構 118
6.2.1　單體架構的缺陷 118
6.2.2　微服務架構的優點 118
6.2.3　使用容器的優點 119
6.3　部署深度模型的多種方法 120
6.3.1　方法1――離線建模和基於微服務的容器化部署 120
6.3.2　方法2――離線建模和無服務器部署 121
6.3.3　方法3――在線學習 121
6.3.4　方法4――利用託管機器學習服務 121
6.4　在Docker上運行基於Keras的深度模型 121
6.5　在GKE上部署深度模型 124
6.6　利用AWS Lambda和Polly進行無服務器的圖像識別並生成音頻 127
6.6.1　修改Lambda環境下代碼和包的步驟 137
6.6.2　利用雲託管服務進行人臉識別 138
6.7　總結 145