Python快樂編程：機器學習從入門到實戰（簡體書）

前言

在瞬息萬變的IT時代，一群懷揣夢想的人創辦了千鋒教育，投身到IT培訓行業。多年來，一批批有志青年加入千鋒教育，為了夢想篤定前行。千鋒教育秉承用良心做教育的理念，為培養“頂級IT精英”付出了一切努力。對於為什麼會有這樣的夢想，我們先來聽一聽用人企業和求職者的心聲：

“現在符合企業需求的IT技術人才非常緊缺，這方面的優秀人才，我們會像珍寶一樣對待，可為什麼至今沒有合格的人才出現？

“面試的時候，用人企業問能做什麼，這個項目如何來實現，需要多長的時間，我們當時都蒙了，回答不上來。

“這已經是面試過的第十家公司了，如果再不行，是不是要考慮轉行了，難道大學裡的四年都白學了？

“這已經是參加面試的第N個求職者了，為什麼都是計算機專業，但當問到項目如何實現時，怎麼連思路都沒有呢？”

這些心聲並不是個別現象，而是中國社會存在的一種普遍現象。高校的IT教育與企業的真實需求存在脫節，如果高校的相關課程仍然不進行更新，畢業生將面臨難以就業的困境。很多用人單位表示，高校畢業生表面上知識豐富，但這些知識絕大多數在實際工作中用之甚少，甚至完全用不上。針對上述存在的問題，國務院也做出了關於加快發展現代職業教育的決定。很慶幸，千鋒教育所做的事情就是配合高校達成產學合作。

千鋒教育致力於打造IT職業教育全產業鏈人才服務平臺，全國數十家分校、數百名講師堅持以教學為本的方針，采用面對面教學，教學大綱實時緊跟企業需求，擁有全國一體化就業體系，傳授企業實用技能。千鋒教育的價值觀是“做真實的自己，用良心做教育”。

針對高校教師的服務

1. 千鋒教育基於近年來的教育培訓經驗，精心設計了包含“教材+授課資源+考試系統+測試題+輔助案例”的教學資源包，能節省教師的備課時間，緩解教師的教學壓力，顯著提高教學質量。

2. 本書配套代碼視頻的索取網址。

3. 本書配備了由千鋒教育優秀講師錄制的教學視頻，按本書知識結構體系部署到了教學輔助平臺(扣丁學堂)上，可以作為教學資源使用，也可以作為備課參考。

高校教師如需索要配套教學資源，請關注(扣丁學堂)師資服務平臺，掃描下方二維碼關注微信公眾平臺索取。

扣丁學堂

針對高校學生的服務

1. 學IT有疑問，就找千問千知，它是一個有問必答的IT社區，平臺上的專業答疑輔導老師承諾工作時間3小時內答復您學習IT時遇到的專業問題。讀者也可以通過掃描下方的二維碼關注千問千知微信公眾平臺，瀏覽其他學習者在學習中分享的問題和收獲。

2. 學習太枯燥，想了解其他學校的伙伴都是怎樣學習的，可以加入扣丁俱樂部。扣丁俱樂部是千鋒教育聯合各大校園發起的公益計劃，專門面向對IT有興趣的大學生，提供免費的學習資源和問答服務，已有超過30多萬名學習者獲益。

就業難，難就業，千鋒教育讓就業不再難！

千問千知

關 於 本 書

本書包含了千鋒教育機器學習相關的全部課程內容，

既可作為高等院校本專科計算機相關專業的機器學習入門教材，也是一本適合廣大計算機編程愛好者的優秀讀物。

搶紅包

本書配套源代碼、習題答案的獲取方法： 添加小千QQ號或微信號。

注意： 小千會隨時發放“助學金紅包”。

致謝

千鋒教育高教研發團隊在近一年時間裡參閱了大量機器學習基礎教材和圖書，通過反復修改最終完成了這本著作。另外，多名院校老師也參與了教材的部分編寫與指導工作，除此之外，千鋒教育500多名學員也參與到了教材的試讀工作中，他們站在初學者的角度對教材提出了許多寶貴的修改意見，在此一並表示衷心的感謝。

意 見 反 饋

在本書的編寫過程中，雖然力求完美，但難免有一些不足之處，歡迎各界專家和讀者朋友們給予寶貴意見。

千鋒教育高教產品研發部

2020年12月於北京

目錄

第1章初識Python機器學習

1.1機器學習簡介

1.1.1機器學習的起源及發展

1.1.2監督學習

1.1.3無監督學習

1.1.4半監督學習

1.1.5強化學習

1.1.6機器學習程序開發步驟

1.1.7機器學習發展現狀

1.1.8機器學習的未來

1.2使用Python語言開發

1.3NumPy函數庫基礎

1.3.1NumPy函數庫的安裝

1.3.2NumPy函數庫入門

1.4SciPy函數庫基礎

1.4.1SciPy函數庫的安裝

1.4.2SciPy函數庫入門

1.5Matplotlib庫

1.5.1Matplotlib庫的安裝

1.5.2Matplotlib庫的使用

1.6集成開發環境Anaconda

1.7本章小結

1.8習題

第2章K近鄰算法

2.1K近鄰算法概述

2.1.1K近鄰算法的基本思想

2.1.2K近鄰的距離度量表示法

2.1.3K值的選擇

2.2K近鄰算法的實現： KD樹

2.2.1KD樹簡介

2.2.2KD樹的構建

2.2.3搜索KD樹

2.3實戰： 利用K近鄰算法改進約會網站

2.4本章小結

2.5習題

第3章決策樹

3.1決策樹與信息熵

3.1.1決策樹簡介

3.1.2信息與自信息

3.1.3信息熵

3.1.4信息增益與劃分數據集

3.2構建決策樹

3.3可視化決策樹

3.3.1注釋結點

3.3.2構建完整的注解樹

3.4基尼指數與CART算法

3.5決策樹的剪枝

3.6本章小結

3.7習題

第4章樸素貝葉斯

4.1概率分布與貝葉斯決策論

4.2條件概率

4.3貝葉斯分類

4.4樸素貝葉斯分類

4.5實戰： 利用樸素貝葉斯分類模型進行文檔分類

4.5.1將單詞表轉換為向量

4.5.2概率計算

4.5.3通過樸素貝葉斯模型進行文件分類

4.6實戰： 利用樸素貝葉斯分類模型過濾垃圾郵件

4.6.1切分文本

4.6.2通過樸素貝葉斯模型過濾垃圾郵件

4.7本章小結

4.8習題

第5章邏輯回歸與梯度下降

5.1邏輯回歸與Sigmoid函數

5.1.1邏輯回歸簡介

5.1.2Sigmoid函數簡介

5.2梯度下降算法

5.2.1二維坐標系中的梯度下降算法

5.2.2三維坐標系中的梯度下降算法

5.3通過梯度下降算法找到最佳參數

5.4決策邊界

5.5梯度下降算法的改進

5.5.1批量梯度下降算法

5.5.2隨機梯度下降算法

5.6本章小結

5.7習題

第6章支持向量機

6.1支持向量機簡介

6.2尋找最大間隔

6.3序列最小優化

6.3.1序列最小化算法簡介

6.3.2通過序列最小優化算法處理小規模數據集

6.3.3通過完整的序列最小優化算法進行優化

6.4核函數及其應用

6.4.1高斯核函數

6.4.2高斯核函數的應用

6.5本章小結

6.6習題

第7章AdaBoost算法

7.1集成學習算法簡介

7.2AdaBoost算法原理

7.3單層決策樹與AdaBoost算法

7.4實戰： 通過AdaBoost算法進行分類

7.5非均衡分類

7.5.1分類性能度量指標： 正確率、召回率

7.5.2分類性能度量指標： ROC曲線

7.5.3非均衡數據的采樣方法

7.6本章小結

7.7習題

第8章線性回歸

8.1線性回歸原理

8.1.1簡單的線性回歸

8.1.2多元線性回歸

8.2局部加權線性回歸

8.3正則化的線性回歸

8.3.1嶺回歸

8.3.2Lasso回歸

8.4方差與偏差的平衡

8.5本章小結

8.6習題

第9章Kmeans算法

9.1無監督學習算法

9.2Kmeans算法簡介

9.3構建簡單的Kmeans模型

9.4K值的選擇

9.4.1肘部法則

9.4.2輪廓系數

9.4.3間隔統計量

9.4.4Canopy算法

9.5二分Kmeans算法

9.6本章小結

9.7習題

第10章Apriori算法

10.1關聯分析算法簡介

10.2Apriori算法的工作原理

10.3實戰： Python編程發現頻繁項集

10.4實戰： Python編程發現強關聯規則

10.5本章小結

10.6習題

第11章FPgrowth算法

11.1FPgrowth算法簡介

11.2構建FP樹

11.2.1創建FP樹的數據結構

11.2.2通過Python構建FP樹

11.3通過FPgrowth算法提取頻繁項集

11.3.1提取條件模式基

11.3.2創建條件FP樹

11.4實戰： 從超市購物清單中發掘信息

11.5本章小結

11.6習題

第12章主成分分析

12.1數據降維

12.2實戰： 通過Python實現簡單的主成分分析

12.3對Iris數據集降維

12.4本章小結

12.5習題

第13章奇異值分解

13.1特征值分解

13.2奇異值分解簡介

13.3實戰： 通過Python實現圖片壓縮

13.4基於協同過濾的推薦算法

13.4.1推薦算法概述

13.4.2協同推薦系統概述

13.4.3實戰： 通過Python實現基於用戶的協同推薦系統

13.4.4實戰： 通過Python實現基於物品的協同推薦系統

13.4.5構建推薦引擎面臨的挑戰

13.5本章小結

13.6習題