緒　論　機器學習概述 1
第1章　機器學習的構成要素　9
1.1　任務：可通過機器學習解決的問題　9
1.1.1　探尋結構　11
1.1.2　性能評價　13
1.2　模型：機器學習的輸出　14
1.2.1　幾何模型　14
1.2.2　概率模型　17
1.2.3　邏輯模型　22
1.2.4　分組模型與評分模型　26
1.3　特征：機器學習的馬達　26
1.3.1　特征的兩種用法　28
1.3.2　特征的構造與變換　29
1.3.3　特征之間的交互　32
1.4　總結與展望　33
第2章　兩類分類及相關任務　37
2.1　分類　39
2.1.1　分類性能的評價　40
2.1.2　分類性能的可視化　43
2.2　評分與排序　46
2.2.1　排序性能的評價及可視化　48
2.2.2　將排序器轉化為分類器　52
2.3　類概率估計　54
2.3.1　類概率估計量　55
2.3.2　將排序器轉化為概率估計子　57
2.4　小結與延伸閱讀　59
第3章　超越兩類分類　61
3.1　處理多類問題　61
3.1.1　多類分類　61
3.1.2　多類得分及概率　65
3.2　回歸　68
3.3　無監督學習及描述性學習　70
3.3.1　預測性聚類與描述性聚類　71
3.2.2　其他描述性模型　74
3.4　小結與延伸閱讀　76
第4章　概念學習　77
4.1　假設空間　78
4.1.1　最小一般性　79
4.1.2　內部析取　82
4.2　通過假設空間的路徑　84
4.2.1　最一般相容假設　86
4.2.2　封閉概念　87
4.3　超越合取概念　88
4.4　可學習性　92
4.5　小結與延伸閱讀　94
第5章　樹模型　97
5.1　決策樹　100
5.2　排序與概率估計樹　103
5.3　作為減小方差的樹學習方法　110
5.3.1　回歸樹　110
5.3.2　聚類樹　113
5.4　小結與延伸閱讀　115
第6章　規則模型　117
6.1　學習有序規則列表　117
6.2　學習無序規則集　124
6.2.1　用于排序和概率估計的規則集　128
6.2.2　深入探究規則重疊　130
6.3　描述性規則學習　131
6.3.1　用于子群發現的規則學習　131
6.3.2　關聯規則挖掘　135
6.4　一階規則學習　139
6.5　小結與延伸閱讀　143
第7章　線性模型　145
7.1　最小二乘法　146
7.1.1　多元線性回歸　150
7.1.2　正則化回歸　153
7.1.3　利用最小二乘回歸實現分類　153
7.2　感知機　155
7.3　支持向量機　158
7.4　從線性分類器導出概率　164
7.5　超越線性的核方法　168
7.6　小結與延伸閱讀　170
第8章　基于距離的模型　173
8.1　距離測度的多樣性　173
8.2　近鄰與范例　178
8.3　最近鄰分類器　182
8.4　基于距離的聚類　184
8.4.1　K均值算法　186
8.4.2　K中心點聚類　187
8.4.3　silhouette　188
8.5　層次聚類　190
8.6　從核函數到距離　194
8.7　小結與延伸閱讀　195
第9章　概率模型　197
9.1　正態分布及其幾何意義　200
9.2　屬性數據的概率模型　205
9.2.1　利用樸素貝葉斯模型實現分類　206
9.2.2　訓練樸素貝葉斯模型　209
9.3　通過優化條件似然實現鑒別式學習　211
9.4　含隱變量的概率模型　214
9.4.1　期望最大化算法　215
9.4.2　高斯混合模型　216
9.5　基于壓縮的模型　218
9.6　小結與延伸閱讀　220
第10章　特征　223
10.1　特征的類型　223
10.1.1　特征上的計算　223
10.1.2　屬性特征、有序特征及數量特征　227
10.1.3　結構化特征　228
10.2　特征變換　229
10.2.1　閾值化與離散化　229
10.2.2　歸一化與標定　234
10.2.3　特征缺失　239
10.3　特征的構造與選擇　240
10.4　小結與延伸閱讀　243
第11章　模型的集成　245
11.1　Bagging 與隨機森林　246
11.2　Boosting　247
11.3　集成學習進階　250
11.3.1　偏差、方差及裕量　250
11.3.2　其他集成方法　251
11.3.3　元學習　252
11.4　小結與延伸閱讀　252
第12章　機器學習的實驗　255
12.1　度量指標的選擇　256
12.2　量指標的獲取　258
12.3　如何解釋度量指標　260
12.4　小結與延伸閱讀　264
后記　路在何方　267
記憶要點　269
參考文獻　271