商品簡介
本書的創立者是Vladimir N. Vapnik。統計學習理論是研究利用經驗數據進行機器學習的一種一般理論,屬于計算機科學、模式識別和應用統計學相交叉與結合的范疇。統計學習理論的基本內容誕生于20世紀60~70年代,到90年代中期發展到比較成熟并受到世界機器學習界的廣泛重視,其核心內容反映在Vapnik的兩部重要著作中,本書即是其中一部,另一部是“The Nature of Statistical Learning Theory”(《統計學習理論的本質》)。 由于較系統地考慮了有限樣本的情況,統計學習理論與傳統統計學理論相比有更好的實用性,在這一理論下發展出的支持向量機(SVM)方法以其有限樣本下良好的推廣能力而備受重視。 本書是對統計學習理論和支持向量機方法的全面、系統、詳盡的闡述,是各領域中研究和應用機器學習理論與方法的科研工作者和研究生的重要參考資料。
作者簡介
VIadimir N.Vaonik,Vapnik于1990年加入美國AT&T貝爾實驗室,現仍擔任顧問,1995年起任英國RoyalHolloway大學計算機和統計學教授。Vapnik教授從事計算機科學、理論與應用統計學研究已有30多年,發表了7部學術著作和上百篇研究論文。他的主要學術成就是研究發展了一套基于經驗數據估計依賴關系的一般理論,即統計學習理論,以及在此理論基礎上的一種新的學習機器——支持向量機,它具有很高的推廣能力。這些理論與方法可以用在很多模式識別和回歸估計問題中,并已經在很多實際問題中取得了很好的應用成果。
目次
引論:歸納和統計推理問題
0.1 統計學中的學習理論體系
O.2 統計推理的兩種方法:特殊方法(參數推理)和通用方法(非參數推理)
0.3 參數方法的體系
O.4 參數體系的缺點
0.5 經典體系后的發展
0.6 復興階段
0.7 Glivenko—Cantelli—Kolmogomv理論的推廣
O.8 結構風險最小化原則
0.9 小樣本集推理的主要原則
0.10 本書的要點
第一部分 學習和推廣性理論
第1章 處理學習問題的兩種方法
1.1 基于實例學習的一般模型
1.2 最小化經驗數據風險泛函的問題
1.3 模式識別問題
1.4 回歸估計問題
1.5 解釋間接測量結果的問題
1.6 密度估計問題(Fisher-Wald表達)
1.7 基于經驗數據最小化風險泛函的歸納原則
1.8 解函數估計問題的經典方法
1.9 隨機對象的識別:密度和條件密度估計
1.10 解近似確定性積分方程的問題
1.11 Glivenko—Cantelli定理
1.12 不適定問題
1.13 學習理論的結構
第1章附錄 解不適定問題的方法
A1.1 解算子方程問題
A1.2 Tikhonov意義下的適定問題
A1.3 正則化方法
第2章 概率測度估計與學習問題
2.1 隨機實驗的概率模型
2.2 統計學的基本問題
2.3 估計一致收斂于未知概率測度的條件
2.4 部分一致收斂性和Glivenko.Cantelli定理的推廣
2.5 在概率測度估計一致收斂的條件下最小化風險泛函
2.6 在概率測度估計部分一致收斂的條件下最小化風險泛函
2.7 關于概率測度估計收斂方式和學習問題表達的評述
第3章 經驗風險最小化原則一致性的條件
3.1 一致性的經典定義
3.2 嚴格(非平凡)一致性的定義
3.3 經驗過程
3.4 學習理論的關鍵定理(關于等價性的定理)
3.5 關鍵定理的證明
3.6 最大似然方法的嚴格一致性
3.7 頻率一致收斂于概率的充分必要條件
3.8 有界實函數集均值一致收斂于期望的充分必要條件
3.9 無界函數集均值一致收斂于期望的充分必要條件
3.10 Kant的劃分問題和Popper的不可證偽學說
3.11 不可證偽性定理
3.12 一致單邊收斂性經驗風險最小化原則和一致性的條件
3.13 學習理論的三個里程碑
第4章 指示損失函數風險的界
4.1 最簡單模型的界:悲觀情況
4.2 最簡單模型的界:樂觀情況
4.3 最簡單模型的界:一般情況
4.4 基本不等式:悲觀情況
4.5 定理4.1的證明
4.6 基本不等式:一般情況
4.7 定理4.2的證明
4.8 主要的非構造性的界
4.9 VC維
4.10 定理4.3的證明
4.11 不同函數集的VC維的例子
第4章附錄 關于ERM原則風險的下界
第5章 實損失函數風險的界
第6章 結構風險最小化原則
第6章附錄 基于間接測量的函數估計
第7章 隨機不適定問題
第8章 估計給定點上的函數值
第二部分 函數的支持向量估計
第9章 感知器及其推廣
第10章 估計指示函數的支持向量方法
第11章 估計實函數的支持向量方法
第12章 模式識別的支持向量機
第13章 函數逼近、回歸估計和信號處理的支持向量機
第三部分 學習理論的統計學基礎
第14章 頻率一致收斂于概率的充分必要條件
第15章 均值一致收斂于期望的充分必要條件
第16章 均值一致單邊收斂于期望的充分必要條件
注釋與參考文獻評述
參考文獻
中英文術語對照表