第0　章 TensorFlow 概述　1
基　礎 篇
第　1 章 TensorFlow 的安裝與環境配置　4
1.1　一般安裝步驟　4
1.2　GPU 版本 TensorFlow 安裝指南　6
1.2.1　GPU 硬件的準備　6
1.2.2　NVIDIA 驅動程序的安裝　6
1.2.3　CUDA Toolkit 和 cuDNN 的安裝　8
1.3　第 一個程序　8
1.4　IDE 設置　9
1.5*　TensorFlow 所需的硬件配置　10
第　2 章 TensorFlow 基礎　12
2.1　TensorFlow 1+1　12
2.2　自動求導機制　14
2.3　基礎示例：線性回歸　15
2.3.1　NumPy 下的線性回歸　16
2.3.2　TensorFlow 下的線性回歸　17
第　3 章 TensorFlow 模型建立與訓練　19
3.1　模型與層　19
3.2　基礎示例：多層感知器（MLP）　22
3.2.1　數據獲取及預處理：tf.keras.datasets　23
3.2.2　模型的構建：tf.keras.Model 和 tf.keras.layers　24
3.2.3　模型的訓練：tf.keras.losses 和 tf.keras.optimizer　25
3.2.4　模型的評估：tf.keras.metrics　26
3.3　卷積神經網絡（CNN）　28
3.3.1　使用 Keras 實現卷積神經網絡　29
3.3.2　使用 Keras 中預定義的經典卷積神經網絡結構　30
3.4　循環神經網絡（RNN）　35
3.5　深度強化學習（DRL）　40
3.6*　Keras Pipeline　43
3.6.1　Keras Sequential/Functional API 模式建立模　44
3.6.2　使用 Keras Model 的 compile、fit 和 evaluate 方法訓練和評估模型　44
3.7*　自定義層、損失函數和評估指標　45
3.7.1　自定義層　45
3.7.2　自定義損失函數和評估指標　46
第　4 章 TensorFlow 常用模塊　48
4.1　tf.train.Checkpoint：變量的保存與恢復　48
4.2　TensorBoard：訓練過程可視化　52
4.2.1　實時查看參數變化情況　52
4.2.2　查看 Graph 和 Profile 信息　53
4.2.3　實例：查看多層感知器模型的訓練情況　55
4.3　tf.data：數據集的構建與預處理　55
4.3.1　數據集對象的建立　55
4.3.2　數據集對象的預處理　57
4.3.3　使用 tf.data 的并行化策略提高訓練流程效率　60
4.3.4　數據集元素的獲取與使用　61
4.3.5　實例：cats_vs_dogs 圖像分類　62
4.4　TFRecord：TensorFlow 數據集存儲格式　64
4.4.1　將數據集存儲為 TFRecord 文件　65
4.4.2　讀取 TFRecord 文件　66
4.5*　@tf.function：圖執行模式　68
4.5.1　@tf.function 基礎使用方法　68
4.5.2　@tf.function 內在機制　69
4.5.3　AutoGraph：將 Python 控制流轉換為 TensorFlow 計算圖　72
4.5.4　使用傳統的 tf.Session　73
4.6*　tf.TensorArray：TensorFlow 動態數組　74
4.7*　tf.config：GPU 的使用與分配　75
4.7.1　指定當前程序使用的 GPU　75
4.7.2　設置顯存使用策略　76
4.7.3　單 GPU 模擬多 GPU 環境　77
部　署 篇
第　5 章 TensorFlow 模型導出　80
5.1　使用 SavedModel 完整導出模型　80
5.2　Keras 自有的模型導出格式　82
第　6 章 TensorFlow Serving　84
6.1　TensorFlow Serving 安裝　84
6.2　TensorFlow Serving 模型部署　85
6.2.1　Keras Sequential 模式模型的部署　86
6.2.2　自定義 Keras 模型的部署　86
6.3　在客戶端調用以 TensorFlow Serving 部署的模型　87
6.3.1　Python 客戶端示例　87
6.3.2　Node.js 客戶端示例（Ziyang）　88
第　7 章 TensorFlow Lite　91
7.1　模型轉換　91
7.2　Android 部署　92
7.3　Quantized 模型轉換　96
7.4　總結　100
第　8 章 TensorFlow.js　101
8.1　TensorFlow.js 環境配置　102
8.1.1　在瀏覽器中使用 TensorFlow.js　102
8.1.2　在 Node.js 中使用 TensorFlow.js　103
8.1.3　在微信小程序中使用 TensorFlow.js　104
8.2　ensorFlow.js 模型部署　105
8.2.1　在瀏覽器中加載 Python 模型　105
8.2.2　在 Node.js 中執行原生 SavedModel 模型　106
8.2.3　使用 TensorFlow.js 模型庫　107
8.2.4　在瀏覽器中使用 MobileNet 進行攝像頭物體識別　107
8.3*　TensorFlow.js 模型訓練與性能對比　110
大規模訓練篇
第　9 章 TensorFlow 分布式訓練　116
9.1　單機多卡訓練：MirroredStrategy　116
9.2　多機訓練：MultiWorkerMirrored-Strategy　118
第　10 章 使用 TPU 訓練 TensorFlow 模型　120
10.1　TPU 簡介　120
10.2　TPU 環境配置　122
10.3　TPU 基本用法　123
擴　展 篇
第　11 章 TensorFlow Hub 模型復用　126
11.1　TF Hub 網站　126
11.2　TF Hub 安裝與復用　127
11.3　TF Hub 模型二次訓練樣例　130
第　12 章 TensorFlow Datasets 數據集載入　131
第　13 章 Swift for TensorFlow　133
13.1　S4TF 環境配置　133
13.2　S4TF 基礎使用　134
13.2.1　在 Swift 中使用標準的 TensorFlow API　135
13.2.2　在 Swift 中直接加載 Python 語言庫　136
13.2.3　語言原生支持自動微分　136
13.2.4　MNIST 數字分類　137
第　14 章* TensorFlow Quantum: 混合量子 - 經典機器學習　140
14.1　量子計算基本概念　141
14.1.1　量子位　141
14.1.2　量子邏輯門　142
14.1.3　量子線路　143
14.1.4　實例：使用 Cirq 建立簡單的量子線路　144
14.2　混合量子 - 經典機器學習　144
14.2.1　量子數據集與帶參數的量子門　145
14.2.2　參數化的量子線路（PQC）　146
14.2.3　將參數化的量子線路嵌入機器學習模型　146
14.2.4　實例：對量子數據集進行二分類　147
高　級 篇
第　15 章 圖執行模式下的 TensorFlow 2　150
15.1　TensorFlow 1+1　150
15.1.1　使用計算圖進行基本運算　150
15.1.2　計算圖中的占位符與數據輸入　152
15.1.3　計算圖中的變量　153
15.2　自動求導機制與優化器　156
15.2.1　自動求導機制　156
15.2.2　優化器　157
15.2.3*　自動求導機制的計算圖對比　158
15.3　基礎示例：線性回歸　161
15.3.1　自動求導機制　162
15.3.2　優化器　162
第　16 章 tf.GradientTape 詳解　164
16.1　基本使用　164
16.2　監視機制　165
16.3　高階求導　166
16.4　持久保持記錄與多次求導　166
16.5　圖執行模式　167
16.6　性能優化　167
16.7　實例：對神經網絡的各層變量獨立求導　167
第　17 章 TensorFlow 性能優化　169
17.1　關于計算性能的若干重要事實　169
17.2　模型開發：擁抱張量運算　170
17.3　模型訓練：數據預處理和預載入　171
17.4　模型類型與加速潛力的關系　171
17.5　使用針對特定 CPU 指令集優化的 TensorFlow　172
17.6　性能優化策略　172
第　18 章 Android 端側 Arbitrary Style Transfer 模型部署　173
18.1　Arbitrary Style Transfer 模型解析　174
18.1.1　輸入輸出　174
18.1.2　bottleneck 數組　174
18.2　Arbitrary Style Transfer 模型部署　175
18.2.1　gradle 設置　175
18.2.2　style predict 模型部署　175
18.2.3　transform 模型部署　178
18.2.4　效果　180
18.3　總結　182
附錄　A 強化學習簡介　183
附錄　B 使用 Docker 部署 TensorFlow 環境　197
附錄　C 在云端使用 TensorFlow　200
附錄　D 部署自己的交互式 Python 開發環境 JupyterLab　211
附錄　E 參考資料與推薦閱讀　214
附錄　F 術語中英對照　216