第1章 緒 論………… 1

1.1 模式識別的基本概念………… 1

1.1.1 模式與模式識別的概念……… 1

1.1.2 模式的特徵………… 1

1.1.3 模式識別系統……… 2

1.2 模式識別的主要方法………… 2

1.3 模式識別的主要研究內容………… 3

1.4 模式識別在科學研究中的應用………… 3

1.4.1 化合物的構效分析……… 3

1.4.2 譜圖解析…………… 4

1.4.3 材料研究…………… 4

1.4.4 催化劑研究………… 5

1.4.5 機械故障診斷與監測………… 5

1.4.6 化學物質源產地判斷………… 6

1.4.7 疾病的診斷與預測……… 6

1.4.8 礦藏勘探…………… 7

1.4.9 考古及食品工業中的應用………… 7

第2章 統計模式識別技術……… 8

2.1 基於概率統計的貝葉斯分類方法……… 8

2.1.1 最小錯誤率貝葉斯分類……… 9

2.1.2 最小風險率貝葉斯分類……… 10

2.2 線性分類器………… 12

2.2.1 線性判別函數……… 12

2.2.2Fisher線性判別函數………… 13

2.2.3 感知器演算法………… 14

2.3 非線性分類器…………… 315

2.3.1 分段線性判別函數……… 15

2.3.2 近鄰法………… 17

2.3.3 勢函數法…………… 19

2.3.4SIMCA 方法……… 20

2.4 聚類分析…………… 22

2.4.1 模式相似度………… 22

2.4.2 聚類準則…………… 24

2.4.3 層次聚類法………… 25

2.4.4 動態聚類法………… 25

2.4.5 決策樹分類器……… 28

2.5 統計模式識別在科學研究中的應用………… 29

第3章 人工神經網路及模式識別……… 43

3.1 人工神經網路的基本概念………… 43

3.1.1 人工神經元………… 43

3.1.2 傳遞函數…………… 43

3.1.3 人工神經網路分類和特點………… 44

3.2 BP人工神經網路……… 44

3.2.1BP人工神經網路學習演算法……… 44

3.2.2BP人工神經網路MATLAB實現…… 46

3.3 徑向基函數神經網路RBF ……… 47

3.3.1RBF的結構與學習演算法……… 47

3.3.2RBF的MATLAB實現……… 48

3.4 自組織競爭人工神經網路………… 48

3.4.1 自組織競爭人工神經網路的基本概念……… 48

3.4.2 自組織競爭神經網路的學習演算法……… 49

3.4.3 自組織競爭網路的MATLAB實現…… 49

3.5 對向傳播神經網路CPN ………… 50

3.5.1CPN 的基本概念……… 50

3.5.2CPN 網路的學習演算法……… 50

3.6 回饋型神經網路Hopfield ……… 51

3.6.1Hopfield網路的基本概念………… 51

3.6.2Hopfield網路的學習演算法………… 52

3.6.3Hopfield網路的MATLAB實現……… 53

3.7 人工神經網路技術在科學研究中的應用…… 53

第4章 模糊系統理論及模式識別……… 72

4.1 模糊系統理論基礎……… 72

4.1.1 模糊集合…………… 72

4.1.2 模糊關係…………… 75

4.1.3 模糊變換與模糊綜合評判………… 77

4.1.4If…then規則……… 78

4.1.5 模糊推理…………… 78

4.2 模糊模式識別的基本方法………… 79

4.2.1 最大隸屬度原則………… 79

4.2.2 擇近原則…………… 79

4.2.3 模糊聚類分析……… 81

4.3 模糊神經網路…………… 85

4.3.1 模糊神經網路……… 85

4.3.2 模糊BP神經網路……… 86

4.4 模糊邏輯系統及其在科學研究中的應用…… 86

第5章 核函數方法及應用………… 107

5.1 核函數方法…………… 107

5.2 基於核的主成分分析方法……… 108

5.2.1 主成分分析……… 108

5.2.2 基於核的主成分分析……… 110

5.3 基於核的Fisher判別方法……… 112

5.3.1Fisher判別方法……… 112

5.3.2 基於核的Fisher判別方法分析……… 113

5.4 基於核的投影尋蹤方法………… 114

5.4.1 投影尋蹤分析………… 114

5.4.2 基於核的投影尋蹤分析………… 118

5.5 核函數方法在科學研究中的應用………… 119

第6章 支援向量機及其模式識別……… 130

6.1 統計學習理論基本內容………… 130

6.2 支持向量機…………… 131

6.2.1 最優分類面……… 131

6.2.2 支援向量機模型……… 132

6.3 支援向量機在模式識別中的應用………… 134

第7章 可拓學及其模式識別……… 142

7.1 可拓學概論…………… 142

7.1.1 可拓工程基本思想………… 142

7.1.2 可拓工程使用的基本工具……… 143

7.2 可拓集合………… 145

7.2.1 可拓集合含義………… 145

7.2.2 物元可拓集合………… 146

7.3 可拓聚類預測的物元模型……… 3146

7.4 可拓學在科學研究中的應用………… 147

第8章 粗糙集理論及其模式識別……… 154

8.1 粗糙集理論基礎……… 154

8.1.1 分類規則的形成……… 156

8.1.2 知識的約簡……… 157

8.2 粗糙神經網路………… 158

8.3 系統評估粗糙集方法……… 158

8.3.1 模型結構………… 159

8.3.2 綜合評估方法………… 159

8.4 粗糙集聚類方法……… 160

8.5 粗糙集理論在科學研究中的應用………… 161

第9章 遺傳演算法及其模式識別………… 170

9.1 遺傳演算法的基本原理……… 170

9.2 遺傳演算法分析………… 173

9.2.1 染色體的編碼………… 173

9.2.2 適應度函數……… 174

9.2.3 遺傳運算元…………175

9.3 控制參數的選擇……… 177

9.4 類比退火演算法………… 178

9.4.1 模擬退火的基本概念……… 178

9.4.2 類比退火演算法的基本過程……… 179

9.4.3 類比退火演算法中的控制參數………… 180

9.5 基於遺傳演算法的模式識別在科學研究中的應用…… 180

9.5.1 遺傳演算法的MATLAB實現………… 180

9.5.2 遺傳演算法在科學研究中的應用實例……… 185

第10章 蟻群演算法及其模式識別……… 201

10.1 蟻群演算法原理………… 201

10.1.1基本概念………… 201

10.1.2蟻群演算法的基本模型……… 202

10.1.3蟻群演算法的特點……… 203

10.2 蟻群演算法的改進……… 203

10.2.1自我調整蟻群演算法……… 203

10.2.2遺傳演算法與蟻群演算法的融合………… 204

10.2.3蟻群神經網路………… 204

10.3 聚類問題的蟻群演算法……… 205

10.3.1聚類數目已知的聚類問題的蟻群演算法…… 205

10.3.2聚類數目未知的聚類問題的蟻群演算法…… 206

10.4 蟻群演算法在科學研究中的應用……… 207

第11章 粒子群演算法及其模式識別………… 217

11.1 粒子群演算法的基本原理………… 217

11.2 全域模式與局部模式……… 218

11.3 粒子群演算法的特點………… 218

11.4 基於粒子群演算法的聚類分析………… 219

11.4.1演算法描述………… 219

11.4.2實現步驟………… 220

11.5 粒子群演算法在科學研究中的應用………… 221

第12章 視覺化模式識別技術………… 229

12.1 高維資料的圖形表示方法……… 229

12.1.1輪廓圖…………… 229

12.1.2雷達圖…………… 230

12.1.3樹狀圖…………… 230

12.1.4三角多項式圖………… 231

12.1.5散點圖…………… 231

12.1.6星座圖…………… 232

12.1.7臉譜圖…………… 233

12.2 圖形特徵參數計算………… 235

12.3 顯示方法………… 237

12.3.1線性映射………… 237

12.3.2非線性映射……… 237

第13章 灰色系統方法及應用………… 241

13.1 灰色系統的基本概念……… 241

13.1.1灰 數…………… 241

13.1.2灰數白化與灰度……… 242

13.2 灰色序列生成運算元………… 242

13.2.1均值生成運算元………… 242

13.2.2累加生成運算元………… 243

13.2.3累減生成運算元………… 243

13.3 灰色分析………… 244

13.3.1灰色關聯度分析……… 244

13.3.2無量綱化的關鍵運算元……… 244

13.3.3關聯分析的主要步驟……… 245

13.3.4其他幾種灰色關聯度……… 246

13.4 灰色聚類………… 247

13.5 灰色系統建模………… 247

13.5.1GM(1,1)模型………… 247

13.5.2GM(1,1)模型檢驗………… 248

13.5.3殘差GM(1,1)模型……… 250

13.5.4GM(1,N )模型……… 250

13.6 灰色災變預測………… 251

13.7 灰色系統的應用……… 252

第14章 人工魚群等群體智慧演算法………… 258

14.1 人工魚群演算法………… 259

14.1.1魚群模式的提出……… 259

14.1.2人工魚的四種基本行為演算法描述…… 259

14.1.3人工魚群演算法概述………… 261

14.1.4各種參數對演算法收斂性能的影響…… 263

14.1.5人工魚群演算法在科學研究中的應用……… 264

14.2 人工免疫演算法………… 270

14.2.1人工免疫演算法的生物學基礎………… 270

14.2.2人工免疫優化演算法概述………… 272

14.2.3人工免疫演算法與遺傳演算法的比較…… 276

14.2.4人工免疫演算法在科學研究中的應用……… 277

14.3 進化計算………… 281

14.3.1進化規劃演算法………… 283

14.3.2進化策略演算法………… 284

14.3.3進化計算在科學研究中的應用……… 286

14.4 混合蛙跳演算法………… 291

14.4.1基本原理………… 291

14.4.2基本術語………… 291

14.4.3演算法的基本流程及運算元………… 292

14.4.4演算法控制參數的選擇……… 294

14.4.5混合蛙跳演算法在科學研究中的應用……… 294

14.5 貓群演算法………… 296

14.5.1基本術語………… 296

14.5.2基本流程………… 297

14.5.3控制參數選擇………… 299

14.5.4貓群演算法在科學研究中的應用……… 299

14.6 細菌覓食演算法………… 300

14.6.1細菌覓食演算法基本原理………… 301

14.6.2演算法主要步驟與流程……… 303

14.6.3演算法參數選取………… 304

14.6.4細菌覓食演算法在科學研究中的應用……… 306

14.7 人工蜂群演算法………… 307

14.7.1人工蜂群演算法的基本原理……… 308

14.7.2人工蜂群演算法的流程……… 309

14.7.3控制參數選擇………… 311

14.7.4人工蜂群演算法在科學研究中的應用……… 311

14.8 量子遺傳演算法………… 312

14.8.1量子計算的基礎知識……… 312

14.8.2量子計算………… 313

14.8.3量子遺傳演算法流程………… 316

14.8.4控制參數………… 318

14.8.5量子遺傳演算法在科學研究中的應用……… 320

14.9Memetic演算法…………321

14.9.1Memetic演算法的構成要素……… 321

14.9.2Memetic演算法的基本流程……… 322

14.9.3控制參數選擇………… 322

14.9.4Memetic演算法在科學研究中的應用……… 323

第15章 仿生模式識別……… 328

15.1 仿生模式識別基本理論………… 328

15.1.1仿生模式識別的連續性規律………… 328

15.1.2多自由度神經元……… 329

15.2 仿生模式識別的數學工具……… 331

15.2.1高維空間幾何分析基本概念………… 332

15.2.2高維空間中點、線、超平面的關係……333

15.2.3高維空間幾何覆蓋理論………… 334

15.3 仿生模式識別的實現方式……… 335

15.3.1高維空間複雜幾何形體覆蓋………… 335

15.3.2多權值神經元的構造……… 338

15.4 仿生模式識別與傳統模式識別的區別…… 338

15.4.1認知理論的差別……… 338

15.4.2數學模式的差異……… 339

15.5 仿生模式識別在科學研究中的應用……… 340

第16章 模式識別的特徵及確定……… 348

16.1 基本概念………… 348

16.1.1特徵的特點……… 348

16.1.2特徵的類別……… 348

16.1.3特徵的形成……… 352

16.1.4特徵選擇與提取……… 353

16.2 樣本特徵的初步分析……… 353

16.3 特徵篩選處理………… 357

16.4 特徵提取………… 357

16.4.1特徵提取的依據……… 357

16.4.2特徵提取的方法……… 359

16.5 基於K L變換的特徵提取………… 362

16.5.1離散K L變換……… 362

16.5.2離散K L變換的特徵提取………… 363

16.5.3吸收類均值向量資訊的特徵提取…… 363

16.5.4利用總體熵吸收方差資訊的特徵提取…… 364

16.6 因數分析…………3365

16.6.1因數分析的一般數學模型……… 365

16.6.2Q 型和R型因數分析……… 366

參考文獻………… 372