深度學習理論及實戰(MATLAB版)（簡體書）

前言

15年的學習研究，2年的策劃準備，100天的精心撰寫，《深度學習理論及實戰》（MATLAB版）一書今日付梓，感觸頗多。本書是關於人工智能領域“深度學習”理論與技術的著作，談及本書的特色及心路歷程，不妨用幾個與“度”有關的關鍵字來述說。

關鍵字一： “深度”

近年來，以深度學習為代表的人工智能技術發展得如火如荼，也正在改變著人們生活的方方面面。與傳統的機器學習相比，深度學習的理論更深、技術更難。本書力圖做到深入淺出，儘量用通俗易懂的語言、實用生動的案例把理論與方法講清楚、說明白。

關鍵字二： “角度”

“深度卷積神經網絡”是模仿大腦工作機理的一種智能系統，本書以“系統角度”→“數學角度”→“仿生角度”為主線，對相關知識進行講解。值得一提的是，本書還從“文化角度”增加了一些中國元素，如： 從《荀子·正名》對“智、能”的解讀講到對人工智能的理解； 以我們學習漢語的過程來說明卷積神經網絡的自動提取特徵、抽象語義的過程； 以相似的漢字結構變化來類比深度學習中的遷移學習； 以中醫針灸來類比啟動函數……

關鍵字三： “溫度”

撰寫帶有“溫度”的書一直是我所追求的，即使是科技類的書，也不應該是“冰冷”的。因此，在本書中，添加了 “溫馨提示” “經驗分享”“心得分享”等版塊； 在本書講解的30個程式中，每個程式都做了詳細的注釋，並且對操作中可能存在的問題也一一進行了提示。

關鍵字四： “態度”

通過這本書，我想傳遞兩個態度。一是“授人以漁”。本書更加注重對方法、過程的講解，希望讀者在實際應用中能夠觸類旁通、舉一反三； 同時還增加了一些“程序設計體驗”的環節，希望讀者在動手實踐的過程中增加對書中知識的體驗。二是“持續學習”。如今，科技與社會迅速發展，持續學習已成為一項重要的能力和素質，本書中的很多內容也是我持續學習的結果。我的包裡總會放一本書，地鐵上、高鐵上、會議前，只要你想學，時間總會有的； 同時，為了寫好本書我還認真地學習了多個國內外的相關課程。

關鍵字五： “適度”

宋玉曾言“東家之子，增之一分則太長，減之一分則太短。”此實為本書力求的理想之態——格局內蘊，屬意“適度”。然而，任何一本書都有它的局限性，本書也不例外，希望讀者在讀此書時，多多思考，多多交流，對於本書有待提高之處提出適度的建議，有興趣的讀者可發送郵件。

今天是2020年的母親節，也以此書獻給天下的母親，尤其是我的家人！

趙小川2020年5月10日於北京

本書提供以下相關配套資源：

 程式碼、習題答案等資料，請掃描下方二維碼下載或者到清華大學出版社官方網站本書頁面下載。

資源下載

目錄

第1章從“機器學習”講起

1.1走近“機器學習”

1.1.1什麼是“機器學習”

1.1.2機器學習的主要任務

1.1.3機器學習的分類

1.1.4什麼是“深度學習”

1.1.5機器學習的應用舉例

擴展閱讀： 對“人工智能”的理解

1.2解讀“機器學習的過程”

1.2.1機器學習的過程

1.2.2機器學習中的資料集

1.2.3過擬合與欠擬合

心得分享： “機器學習”與“雕刻時光”

1.3典型的機器學習算法——SVM

1.3.1從“最走心”的國界線說起

1.3.2“支持向量機”名字的由來

1.3.3SVM分類器的形式

1.3.4如何找到最佳分類線

1.3.5基於SVM的多分類問題

1.4思考與練習

第2章解析“人工神經網絡”

2.1神經元——人工神經網絡的基礎

2.1.1生物神經元

2.1.2人工神經元

2.1.3啟動函數

2.2神經網絡的結構及工作原理

2.2.1神經網絡的結構組成

2.2.2神經網絡的工作原理

2.2.3一些常見的概念

擴展閱讀： 人工神經網絡發展簡史

2.3從數學角度來認識神經網絡

2.3.1本書中採用的符號及含義

2.3.2神經元的啟動

2.3.3神經網絡的學習

2.3.4尋找損失函數最小值——梯度下降法

2.3.5誤差反向傳播

2.3.6基於誤差反向傳播的參數更新流程

2.4如何基於神經網絡進行分類

2.4.1基於神經網絡實現二分類

2.4.2基於神經網絡實現多分類

擴展閱讀： 交叉熵

2.5思考與練習

第3章探索“卷積神經網絡”

3.1深入淺出話“卷積”

3.1.1卷積的運算過程

3.1.2卷積核對輸出結果的影響

3.1.3卷積運算在圖像特徵提取中的應用

擴展閱讀： 數字影像處理的基礎知識

程序設計體驗1： 讀入一幅數字圖像並顯示

程序設計體驗2： 基於MATLAB實現二維圖像的滑動卷積

3.2解析“卷積神經網絡”

3.2.1從 ImageNet 挑戰賽說起

3.2.2卷積神經網絡的結構

3.2.3卷積層的工作原理

3.2.4非線性啟動函數的工作原理

3.2.5池化層的工作原理

3.2.6卷積神經網絡與全連接神經網絡的區別

3.2.7從仿生學角度看卷積神經網絡

擴展閱讀： 創建ImageNet挑戰賽初衷

3.3從數學的角度看卷積神經網絡

3.3.1本書中採用的符號及含義

3.3.2從數學角度看卷積神經網絡的工作過程

3.3.3如何求代價函數

3.3.4採用誤差反向傳播法確定卷積神經網絡的參數

3.4認識經典的“卷積神經網絡”

3.4.1解析LeNet5卷積神經網絡

3.4.2具有裡程碑意義的AlexNet

3.4.3VGG-16卷積神經網絡的結構和參數

3.4.4卷積神經網絡為何會迅猛發展

3.5思考與練習

第4章基於MATLAB深度學習工具箱的實現與調試

4.1構造一個用於分類的卷積神經網絡

4.1.1實例需求

4.1.2開發環境

4.1.3開發步驟

4.1.4常用的構造卷積神經網絡的函數

4.1.5構造卷積神經網絡

4.1.6程式實現

擴展閱讀： 批量歸一化層的作用

程序設計體驗： 改變卷積神經網絡的結構

4.2訓練一個用於預測的卷積神經網絡

4.2.1實例需求

4.2.2開發步驟

4.2.3構建卷積神經網絡

4.2.4訓練卷積神經網絡

4.2.5程式實現

擴展閱讀1： 設置學習率的經驗與技巧

擴展閱讀2： 隨機失活方法(dropout)的作用

擴展閱讀3： 小批量方法（minibatch）的作用

程序設計體驗： 改變網絡訓練配置參數

4.3採用遷移學習進行物體識別

4.3.1站在巨人的肩膀上——“遷移學習”

4.3.2實例需求

4.3.3開發步驟

4.3.4載入訓練好的網絡

4.3.5如何對網絡結構和樣本進行微調

4.3.6函數解析

4.3.7程式實現及運行效果

擴展閱讀： 多角度看“遷移學習”

4.4採用 Deep Network Designer實現卷積網絡設計

4.4.1什麼是Deep Network Designer

4.4.2如何打開Deep Network Designer

4.4.3需求實例

4.4.4在Deep Network Designer中構建卷積神經網絡

4.4.5對網絡進行訓練與驗證

4.4.6Deep Network Designer的檢驗功能

4.5採用Deep Network Designer實現遷移學習

4.5.1基於Deep Network Designer的網絡結構調整

4.5.2對網絡進行訓練

4.6如何顯示、分析卷積神經網絡

4.6.1如何查看訓練好的網絡的結構和信息

4.6.2如何畫出深度網絡的結構圖

4.6.3如何用analyzeNetwork函數查看與分析網絡

4.7如何載入深度學習工具箱可用的資料集

4.7.1如何載入MATLAB自帶的資料集

4.7.2如何載入自己製作的資料集

4.7.3如何載入網絡下載的資料集——以CIFAR-10為例

4.7.4如何劃分訓練集與測試集

程序設計體驗1： 基於CIFAR-10資料集訓練卷積神經網絡

4.8如何構造一個具有捷徑連接的卷積神經網絡

4.8.1本節用到的函數

4.8.2實例需求

4.8.3創建含有捷徑連接的卷積神經網絡的實現步驟

4.8.4程式實現

4.8.5對捷徑連接網絡進行結構檢查

程序設計體驗： 採用常式4.8.2所構建的卷積神經網絡進行圖像分類

4.9思考與練習

第5章應用案例深度解析

5.1基於卷積神經網絡的圖像分類

5.1.1什麼是圖像分類

5.1.2評價分類的指標

5.1.3基於深度學習和資料驅動的圖像分類

5.1.4傳統的圖像分類與基於深度學習的圖像分類的區別

5.1.5基於AlexNet的圖像分類

5.1.6基於GoogLeNet的圖像分類

5.1.7基於卷積神經網絡的圖像分類抗干擾性分析

擴展閱讀： 計算機視覺的發展之路

程序設計體驗： 體驗GoogLeNet識別圖像的抗噪聲能力

5.2基於LeNet卷積神經網絡的交通燈識別

5.2.1實例需求

5.2.2卷積神經網絡設計

5.2.3載入交通燈資料集

5.2.4程式實現

5.3融合卷積神經網絡與支援向量機的圖像分類

5.3.1整體思路

5.3.2本節所用到的函數

5.3.3實現步驟與程式

程序設計體驗： 基於AlexNet和SVM的圖像分類

5.4基於R-CNN的交通標誌檢測

5.4.1目標分類、檢測與分割

5.4.2目標檢測及其難點問題

5.4.3R-CNN目標檢測算法的原理及實現過程

5.4.4實例需求

5.4.5實現步驟

5.4.6本節所用到的函數

5.4.7程式實現

5.4.8基於AlexNet遷移學習的R-CNN實現

5.4.9基於Image Labeler的R-CNN目標檢測器構建

5.5基於Video Labeler與R-CNN的車輛檢測

5.5.1實例需求

5.5.2實現步驟

5.6思考與練習

參考文獻