機器學習與深度學習(Python版‧微課視頻版)（簡體書）

本書以任務為導向，討論了機器學習和深度學習的主要問題，包括聚類、回歸、分類、標注、降維、特徵工程、超參數調優、序列決策（強化學習）和對抗攻擊等。書中對上述每個問題，分別從決策函數類模型、概率類模型和神經網絡類模型三個角度來討論具體的實現算法。
本書在內容上兼顧基礎知識和應用實踐。總體上，以基本理論知識為主線，逐步展開，從概念入手，逐步討論算法思想，著重考慮知識的關聯性，最後落實到機器學習擴展庫和深度學習框架的具體應用。具體到每個模型，採用以示例入手、逐漸深入的方式，盡量給出詳盡的分析或推導。
本書的特點是主要通過示例來討論相關模型，適合初學者入門使用。本書示例代碼採用Python 3程序設計語言編寫。傳統機器學習算法的應用示例主要以ScikitLearn機器學習擴展庫來實現，隱馬爾可夫模型示例用hmmlearn擴展庫來實現，條件隨機場模型示例用CRF 工具來實現。深度學習算法的示例採用TensorFlow 2框架和MindSpore框架來實現。
本書適合計算機、人工智能及相關專業的學生使用，對於相關技術研究人員也有參考價值。

本書的特點是主要通過示例來討論傳統機器學習模型、深度學習模型和強化學習模型，更加適合初學者入門使用。有詳細的代碼解讀和案例說明，本書的內容全面，可供入門學習和工程參考使用。

《機器學習(Python sklearn TensorFlow 2．0)微課視頻版》一書在出版後，受到了讀者的歡迎。作者為了適應不同讀者的需要，應出版社建議，編寫了本書。本書的特點是主要通過示例來討論傳統機器學習模型、深度學習模型和強化學習模型，更適合初學者入門使用。
本書的內容全面，可供入門學習和工程參考。
本書內容的編排大體與《機器學習(Python sklearn TensorFlow 2．0)微課視頻版》一書對應，因此，也可與之配套使用。結合機器學習領域發展現狀，本書增加了強化學習和對抗樣本的內容。
本書示例代碼採用Python 3程序設計語言編寫。傳統機器學習算法的應用示例主要基於ScikitLearn機器學習擴展庫實現，隱馬爾可夫模型示例基於hmmlearn擴展庫實現，條件隨機場模型示例基於CRF 工具實現。深度學習算法的示例基於TensorFlow 2框架和MindSpore框架實現。MindSpore是華為公司於2020年開源的深度學習框架，目前正在快速發展之中。強化學習示例基於gym仿真框架實現。考慮到大多數初學者的條件限制，本書示例全部基於CPU計算平臺實現。
本書沒有直接聚焦於擴展庫和框架本身，而是以基本理論知識為主線來逐步展開，從概念入手逐步討論算法思想，著重考慮知識的關聯性，最後落實到擴展庫和框架的具體應用。作者認為這樣的知識學習路線更有利於初學者。
在內容規劃方面，強調任務驅動，總體上以聚類、回歸、分類、標注、特徵工程與超參數調優、序列決策、對抗攻擊來劃分知識模塊。具體來講： 
第1章介紹開發環境的安裝以及Python語言相關知識。涉及Anaconda環境、ScikitLearn機器學習擴展庫、TensorFlow 2和MindSpore深度學習框架的安裝，目的是方便讀者上手實驗。簡要介紹了基本的Python語法，並對程序設計語言、面向物件、平臺無關性和解釋性語言等內容進行討論，使初學者了解更多背景知識，加深對環境的理解。
第2章介紹機器學習和深度學習的基礎知識。本章介紹有關機器學習和深度學習的概念和術語，分析機器學習模型應用的流程，並通過一個簡單的示例討論采集數據、特徵工程、建立模型和應用四個主要階段，從多個角度討論機器學習模型的分類，特別是從聚類、回歸、分類、標注的任務角度和決策函數、概率分布、人工神經網絡的實現角度對傳統機器學習和深度學習的基本內容進行劃分，力圖給讀者建立清晰的知識體系。
第3章至第6章分別介紹聚類任務、回歸任務、分類任務和標注任務及相關模型。每章又按照實現該任務的決策函數模型、概率模型和神經網絡模型分別討論。此外，每章按照由易到難的順序逐步討論傳統機器學習領域和深度學習中必不可少的基礎知識： 第3章討論維數災難與降維； 第4章討論梯度下降法和過擬合，並開始引入全連接層神經網絡； 第5章討論誤差反向傳播算法和卷積神經網絡； 第6章討論序列問題和循環神經網絡。
第7章介紹機器學習工程應用中的特徵工程與超參數調優問題及其輔助分析技術，並通過綜合性實例進行討論，對文本特徵的提取及應用進行專門的討論。
第8章介紹強化學習算法以及初步的深度強化學習算法。該部分內容涉及知識面較廣，要求先導知識較多。採用本書作為教材時，可根據教學內容體系和教學時長選講本章部分內容。
第9章對機器學習安全中的對抗攻擊問題進行初步討論，講解對抗樣本的生成及其對機器學習模型的攻擊示例。對抗樣本生成算法涉及很多基礎知識，如梯度計算、反向傳播等，因此，該部分內容既可以看作是對前沿新知識的探索，也可視為對前面章節內容的鞏固和綜合應用。
書中如有錯誤和不完善之處，望不吝賜教。

作者2022年5月

第1章安裝環境與語言、框架概要

1.1安裝環境

1.1.1幾個重要的概念

1.1.2安裝Anaconda

1.1.3開發環境

1.2Python語言相關概念

1.2.1程序設計語言

1.2.2面向過程與面向物件程序設計方法

1.2.3平臺無關性和解釋型語言

1.3Python 3語法概要

1.3.1基礎語法

1.3.2數據類型與運算符

1.3.3函數

1.3.4類和物件

1.3.5流程控制

1.3.6常用擴展庫

1.4Python初步應用示例——迭代法

1.5TensorFlow 2和MindSpore深度學習框架概要

1.6習題

第2章基礎知識

2.1機器學習與深度學習

2.2機器學習應用流程

2.3機器學習算法概要

2.3.1機器學習算法術語

2.3.2機器學習模型實現算法分類

2.4本書內容安排

第3章聚類與降維

3.1k均值聚類算法

3.2聚類算法基礎

3.2.1聚類任務

3.2.2聚類算法評價指標

3.3PCA降維算法

3.4劃分聚類、密度聚類和模型聚類算法

3.5層次聚類算法

3.6Mean Shift算法及其在圖像分割中的應用示例

3.7習題

第4章回歸與多層神經網絡

4.1回歸任務、評價與線性回歸

4.1.1回歸任務

4.1.2線性回歸與回歸評價指標

4.2梯度下降法

4.2.1基本思想及其在MindSpore和TensorFlow 2框架中的實現

4.2.2梯度下降法求解線性回歸問題

4.2.3隨機梯度下降和批梯度下降

4.3決策函數回歸模型

4.3.1多項式回歸

4.3.2局部回歸

4.4過擬合及其抑制

4.4.1欠擬合、過擬合與泛化能力

4.4.2過擬合的抑制方法

4.5多層神經網絡與回歸

4.5.1全連接層與線性回歸及其在MindSpore和TensorFlow 2
框架中的實現

4.5.2全連接層神經網絡與非線性回歸及其在MindSpore和
TensorFlow 2框架中的實現

4.5.3神經網絡中的過擬合及其抑制

4.6習題

第5章分類與卷積神經網絡

5.1分類算法基礎

5.1.1分類任務

5.1.2分類模型的評價指標

5.2決策樹與隨機森林

5.2.1決策樹基本思想

5.2.2決策樹建立與應用

5.2.3隨機森林

5.3樸素貝葉斯分類

5.4神經網絡與分類任務

5.4.1誤差反向傳播學習算法

5.4.2神經網絡常用激活函數、損失函數和優化方法

5.4.3局部收斂與梯度消散

5.5卷積神經網絡

5.5.1卷積神經網絡示例

5.5.2卷積層

5.5.3池化層和Flatten層

5.5.4批標準化層

5.5.5典型卷積神經網絡

5.6習題

第6章標注與循環神經網絡

6.1標注任務與序列問題

6.2隱馬爾可夫模型

6.2.1基本思想

6.2.2隱馬爾可夫模型中文分詞應用示例

6.3條件隨機場模型

6.3.1基本思想

6.3.2條件隨機場中文分詞應用示例

6.4循環神經網絡

6.4.1基本單元

6.4.2網絡結構

6.4.3長短時記憶網絡

6.4.4雙向循環神經網絡和深度循環神經網絡

6.4.5循環神經網絡中文分詞應用示例

6.5習題

第7章特徵工程與超參數調優及綜合實例

7.1特徵工程

7.1.1數據總體分析

7.1.2數據可視化

7.1.3數據預處理

7.1.4特徵選擇

7.2超參數調優

7.3特徵工程、建模與調優綜合實例

7.3.1房價回歸

7.3.2電信用戶流失分類

7.4文本特徵

7.4.1文本特徵提取及文本向量化

7.4.2文本相似度比較示例

7.5習題

第8章強化學習*

8.1強化學習基礎

8.1.1冰湖問題與強化學習基本概念

8.1.2馬爾可夫決策過程

8.1.3蒙特卡羅近似

8.1.4利用與探索

8.1.5強化學習算法分類

8.2值函數可計算的強化學習方法

8.2.1動態規劃法

8.2.2蒙特卡羅法

8.2.3時序差分法

8.3深度強化學習

8.3.1值函數逼近

8.3.2DQN與倒立擺控制問題

8.3.3參數化策略並直接優化示例

8.3.4策略梯度法

8.4習題

第9章對抗樣本

9.1對抗樣本與對抗攻擊

9.2白盒攻擊

9.2.1FGM算法

9.2.2FGSM算法

9.2.3DeepFool算法

9.3黑盒攻擊

9.3.1遷移攻擊

9.3.2通用對抗擾動

9.4習題

參考文獻