第一部分　原理篇
第1章　機器學習與模型 2
1.1　模型 2
1.2　參數與訓練 4
1.3　損失函數 9
1.4　計算圖的訓練 10
1.5　小結 12
第2章　計算圖 13
2.1　什麼是計算圖 13
2.2　前嚮傳播 14
2.3　函數優化與梯度下降法 18
2.4　鏈式法則與反嚮傳播 29
2.5　在計算圖上執行梯度下降法 36
2.6　節點類及其子類 36
2.7　用計算圖搭建ADALINE並訓練 44
2.8　小結 48
第3章　優化器 49
3.1　優化流程的抽象實現 49
3.2　BGD、SGD和MBGD 53
3.3　梯度下降優化器 58
3.4　樸素梯度下降法的局限 60
3.5　衝量優化器 61
3.6　AdaGrad優化器 62
3.7　RMSProp優化器 64
3.8　Adam優化器 65
3.9　小結 68
第二部分　模型篇
第4章　邏輯迴歸 70
4.1　對數損失函數 70
4.2　Logistic函數 73
4.3　二分類邏輯迴歸 75
4.4　多分類邏輯迴歸 78
4.5　交叉熵 81
4.6　實例：鳶尾花 85
4.7　小結 88
第5章　神經網絡 90
5.1　神經元與激活函數 90
5.2　神經網絡 95
5.3　多層全連接神經網絡 99
5.4　多個全連接層的意義 101
5.5　實例：鳶尾花 108
5.6　實例：手寫數字識彆 110
5.7　小結 116
第6章　非全連接神經網絡 117
6.1　帶二次項的邏輯迴歸 117
6.2　因子分解機 124
6.3　Wide & Deep 132
6.4　DeepFM 137
6.5　實例：泰坦尼剋號幸存者 141
6.6　小結 150
第7章　循環神經網絡 151
7.1　RNN的結構 151
7.2　RNN的輸齣 152
7.3　實例：正弦波與方波 155
7.4　變長序列 159
7.5　實例：3D電磁發音儀單詞識彆 164
7.6　小結 167
第8章　捲積神經網絡 168
8.1　濛德裏安與莫奈 168
8.2　濾波器 170
8.3　可訓練的濾波器 176
8.4　捲積層 183
8.5　池化層 186
8.6　CNN的結構 189
8.7　實例：手寫數字識彆 190
8.8　小結 194
第三部分　工程篇
第9章　訓練與評估 196
9.1　訓練和Trainer訓練器 196
9.2　評估和Metrics節點 202
9.3　混淆矩陣 204
9.4　正確率 204
9.5　查準率 206
9.6　查全率 206
9.7　ROC麯綫和AUC 208
9.8　小結 211
第10章　模型保存、預測和服務 212
10.1　模型保存 213
10.2　模型加載和預測 216
10.3　模型服務 216
10.4　客戶端 222
10.5　小結 223
第11章　分布式訓練 224
11.1　分布式訓練的原理 224
11.2　基於參數服務器的架構 230
11.3　Ring AllReduce原理 241
11.4　Ring AllReduce架構實現 248
11.5　分布式訓練性能評測 257
11.6　小結 259
第12章　工業級深度學習框架 261
12.1　張量 262
12.2　計算加速 263
12.3　GPU 265
12.4　數據接口 266
12.5　模型並行 266
12.6　靜態圖和動態圖 267
12.7　混閤精度訓練 268
12.8　圖優化和編譯優化 270
12.9　移動端和嵌入式端 270
12.10　小結 271
· · · · · · (收起)