第 1章　概率推理　1

1.1　機器學習　3

1.2　使用概率表示不確定性 　4

1.2.1　信念和不確定性的概率表示 　5

1.2.2　條件概率 　6

1.2.3　概率計算和隨機變數 　7

1.2.4　聯合概率分佈 　9

1.2.5　貝葉斯規則 　10

1.3　概率圖模型　18

1.3.1　概率模型 　18

1.3.2　圖和條件獨立 　19

1.3.3　分解分佈 　21

1.3.4　有向模型 　22

1.3.5　無向模型 　23

1.3.6　示例和應用 　23

1.4　小結　27

第 2章　精 確推斷　28

2.1　構建圖模型　29

2.1.1　隨機變數的類型 　30

2.1.2　構建圖 　31

2.2　變數消解　37

2.3　和積與信念更新　39

2.4　聯結樹演算法　43

2.5　概率圖模型示例　51

2.5.1　灑水器例子 　51

2.5.2　醫療專家系統 　52

2.5.3　多於兩層的模型 　53

2.5.4　樹結構 　55

2.6　小結　56

第3章　學習參數　58

3.1　引言　59

3.2　通過推斷學習　63

3.3　zui大似然法　67

3.3.1　經驗分佈和模型分佈是如何關聯的？ 　67

3.3.2　zui大似然法和R語言實現 　69

3.3.3　應用 　73

3.4　學習隱含變數——期望zui大化演算法　75

3.4.1　隱變數 　76

3.5　期望zui大化的演算法原理　77

3.5.1　期望zui大化演算法推導 　77

3.5.2　對圖模型使用期望zui大化演算法 　79

3.6　小結　80

第4章　貝葉斯建模——基礎模型　82

4.1　樸素貝葉斯模型　82

4.1.1　表示 　84

4.1.2　學習樸素貝葉斯模型 　85

4.1.3　完全貝葉斯的樸素貝葉斯模型 　87

4.2　Beta二項式分佈　90

4.2.1　先驗分佈 　94

4.2.2　帶有共軛屬性的後驗分佈 　95

4.2.3　如何選取Beta參數的值　95

4.3　高斯混合模型　97

4.3.1　定義　97

4.4　小結　104

第5章　近似推斷　105

5.1　從分佈中採樣　106

5.2　基本採樣演算法　108

5.2.1　標準分佈　108

5.3　拒絕性採樣　111

5.3.1　R語言實現 　113

5.4　重要性採樣　119

5.4.1　R語言實現 　121

5.5　瑪律科夫鏈蒙特卡洛演算法　127

5.5.1　主要思想　127

5.5.2　Metropolis-Hastings演算法 　128

5.6　概率圖模型MCMC演算法R語言實現　135

5.6.1　安裝Stan和RStan 　136

5.6.2　RStan的簡單例子 　136

5.7　小結　137

第6章　貝葉斯建模——線性模型　139

6.1　線性回歸　140

6.1.1　估計參數 　142

6.2　貝葉斯線性模型　146

6.2.1　模型過擬合 　147

6.2.2　線性模型的圖模型 　149

6.2.3　後驗分佈 　151

6.2.4　R語言實現 　153

6.2.5　一種穩定的實現 　156

6.2.6　更多R語言套裝程式　161

6.3　小結　161

第7章　概率混合模型　162

7.1　混合模型　162

7.2　混合模型的期望zui大化　164

7.3　伯努利混合　169

7.4　專家混合　172

7.5　隱狄利克雷分佈　176

7.5.1　LDA模型 　176

7.5.2　變分推斷 　179

7.5.3　示例　180

7.6　小結　183

附錄　184