第1章 深度學習的來源與應用 1
1.1 人工智慧的思想、流派與發展起落 1
1.1.1 人工智慧的思潮流派和主要研究與應用領域 2
1.1.2 人工智慧的三起三落 4
1.2 什麼是深度學習 6
1.2.1 我們不分離——資料和演算法 6
1.2.2 深度學習基礎 9
1.3 機器學習與深度學習 10
1.3.1 機器學習的定義與種類 10
1.3.2 機器學習的任務與方法 13
1.3.3 深度學習的提出 16
1.4 深度學習的應用場景 18
1.4.1 應用場合和概念層次 18
1.4.2 主要開發工具和框架 20
1.4.3 人工智慧、深度學習有關學術會議和賽事 22
習題 24
參考文獻 24
第2章 深度學習的數學基礎 26
2.1 線性代數 26
2.1.1 向量空間 26
2.1.2 矩陣分析 28
2.2 概率與統計 30
2.2.1 概率與條件概率 30
2.2.2 貝葉斯理論 33
2.2.3 資訊理論基礎 35
2.3 多元微積分 39
2.3.1 導數和偏導數 39
2.3.2 梯度和海森矩陣 42
2.3.3 最速下降法 44
2.3.4 隨機梯度下降演算法 45
習題 48
參考文獻 50
第3章 人工神經網路與深度學習 51
3.1 探秘大腦的工作原理 52
3.1.1 人類活動抽象與深度學習模型 53
3.1.2 人腦神經元的結構 54
3.1.3 人腦神經元功能 55
3.1.4 人腦視覺機理 57
3.2 人腦神經元模型 59
3.2.1 人腦神經元模型介紹 60
3.2.2 啟動函數 62
3.3 M-P模型 64
3.3.1 標準M-P模型 65
3.3.2 改進的M-P模型 66
3.4 人腦神經網路的互連結構 66
3.4.1 前饋神經網路 67
3.4.2 回饋網路 67
3.5 人工神經網路的學習 68
3.5.1 人工神經網路的學習方式 68
3.5.2 神經網路的學習規則 71
3.5.3 人工神經網路演算法基本要求 73
3.5.4 神經網路計算特點 74
3.6 人工神經網路的特點 75
3.7 神經網路基本概念與功能 76
3.7.1 幾個基本概念 76
3.7.2 基本功能 78
3.7.3 感知機的局限性 83
3.8 深度學習其他網路結構 84
3.8.1 卷積神經網路 88
3.8.2 迴圈（遞迴）神經網路 94
習題 97
參考文獻 98
第4章 深度學習基本過程 99
4.1 正向學習過程 99
4.1.1 正向學習概述 99
4.1.2 正向傳播的流程 100
4.1.3 正向傳播的詳細原理 100
4.2 反向調整過程 102
4.2.1 反向調整概述 102
4.2.2 反向傳播過程詳解 103
4.2.3 深層模型反向調整的問題與對策 106
4.3 手寫體數位識別實例 107
4.3.1 數據準備 107
4.3.2 網路設計 109
4.3.3 模型訓練 115
4.3.4 模型測試 116
習題 121
參考文獻 121
第5章 深度學習主流模型 122
5.1 卷積神經網路 123
5.1.1 CNN概念 123
5.1.2 CNN常用演算法 127
5.1.3 CNN訓練技巧 131
5.2 迴圈神經網路 132
5.2.1 RNN結構 132
5.2.2 RNN訓練 133
5.2.3 RNN訓練技巧 135
習題 136
參考文獻 136
第6章 深度學習的主流開源框架 138
6.1 Caffe 138
6.1.1 Caffe框架 138
6.1.2 安裝Caffe 139
6.1.3 案例：基於Caffe的目標識別 145
6.2 TensorFlow 146
6.2.1 TensorFlow框架 146
6.2.2 安裝TensorFlow 147
6.2.3 案例：基於TensorFlow的目標識別 149
6.3 其他開源框架 150
6.3.1 CNTK 150
6.3.2 MXNet 151
6.3.3 Theano 151
6.3.4 Torch 151
6.3.5 Deeplearning4j 152
習題 153
參考文獻 153
第7章 深度學習在圖像中的應用 154
7.1 圖像識別基礎 154
7.2 基於深度學習的大規模圖像識別 155
7.2.1 大規模圖像資料庫：ImageNet 155
7.2.2 AlexNet網路結構 156
7.2.3 非線性啟動函數ReLU 157
7.2.4 在多GPU上進行實現 158
7.2.5 增加訓練樣本 158
7.2.6 dropout技術 159
7.3 應用舉例：人臉識別 160
7.3.1 人臉識別的經典流程 160
7.3.2 人臉圖像資料庫 161
7.3.3 基於深度學習的人臉識別方法 162
7.4 應用舉例：圖像風格化 163
7.4.1 內容重構 164
7.4.2 風格重構 165
7.4.3 內容與風格的重組 166
7.5 應用舉例：圖像標注 167
7.5.1 基於深度網路的圖像標注方法概述 168
7.5.2 視覺語義對齊 169
7.5.3 為新圖像生成對應文本描述 171
習題 172
參考文獻 172
第8章 深度學習在語音中的應用 174
8.1 語音辨識基礎 174
8.1.1 人類之間的交流 175
8.1.2 人機交流 175
8.1.3 語音辨識系統的基本結構 176
8.1.4 特徵提取 176
8.1.5 聲學模型 177
8.1.6 語言模型 177
8.1.7 解碼器 178
8.1.8 用於語音辨識的GMM-HMM模型 178
8.2 基於深度學習的連續語音辨識 181
8.2.1 DNN-HMM混合系統 181
8.2.2 CD-DNN-HMM的關鍵模組及分析 185
8.3 應用舉例：語音輸入法 190
8.3.1 案例背景 190
8.3.2 語音輸入法設計 191
8.3.3 語音中心SpeechCenter的設計 192
8.3.4 輸入法FreeVoice的設計 194
8.3.5 FreeVoice和SpeechCenter之間的通信設計 196
習題 198
參考文獻 198
第9章 深度學習在文本中的應用 201
9.1 自然語言處理基礎 201
9.1.1 規則運算式和自動機 202
9.1.2 句法處理 203
9.1.3 詞的分類和詞性標注 203
9.1.4 上下文無關語法 205
9.1.5 淺層語法分析 205
9.1.6 語義分析 206
9.1.7 語義網路 206
9.1.8 詞彙關係資訊庫 206
9.2 基於深度學習的文本處理 207
9.2.1 詞彙向量化表示 207
9.2.2 句法分析 209
9.2.3 神經機器翻譯 209
9.2.4 情感分析 210
9.3 應用舉例：機器翻譯 211
9.4 應用舉例：聊天機器人 215
9.4.1　聊天機器人的主要功能模組 216
9.4.2　主要的技術挑戰 217
9.4.3　深度學習構建智慧聊天機器人 218
習題 220
參考文獻 220
第10章 深度學習前沿發展 222
10.1 增強學習 222
10.1.1 增強學習的基本概念 222
10.1.2 增強學習的過程 224
10.1.3 增強學習的應用 225
10.2 遷移學習 225
10.2.1 遷移學習的定義 226
10.2.2 遷移學習的分類 226
10.2.3 遷移學習的應用場景 226
10.3 記憶網路 228
10.3.1 迴圈神經網路 228
10.3.2 長短期記憶網路 228
10.3.3 長短期記憶變體 231
10.4 深度學習的硬體實現 232
10.4.1 FPGA 232
10.4.2 ASIC 233
10.4.3 TPU 234
10.4.4 寒武紀 235
10.4.5 TrueNorth 237
習題 238
參考文獻 238
附錄A 人工智慧和大資料實驗環境 240