深度學習與圍棋

目　錄
第　一部分 基礎(chǔ)知識
第　1章 走近深度學習：機器學習入門　3
1．1　什么是機器學習　4
1．1．1　機器學習與AI的關(guān)系　5
1．1．2　機器學習能做什么，不能做什么　6
1．2　機器學習示例　7
1．2．1　在軟件應用中使用機器學習　9
1．2．2　監(jiān)督學習　11
1．2．3　無監(jiān)督學習　12
1．2．4　強化學習　12
1．3　深度學習　13
1．4　閱讀本書能學到什么　14
1．5　小結(jié)　15
第　2章 圍棋與機器學習　16
2．1　為什么選擇游戲　16
2．2　圍棋快速入門　17
2．2．1　了解棋盤　17
2．2．2　落子與吃子　18
2．2．3　終盤與勝負計算　19
2．2．4　理解劫爭　20
2．2．5　讓子　20
2．3　更多學習資源　20
2．4　我們可以教會計算機什么　21
2．4．1　如何開局　21
2．4．2　搜索游戲狀態(tài)　21
2．4．3　減少需要考慮的動作數(shù)量　22
2．4．4　評估游戲狀態(tài)　22
2．5　如何評估圍棋AI的能力　23
2．5．1　傳統(tǒng)圍棋評級　23
2．5．2　對圍棋AI進行基準測試　24
2．6　小結(jié)　24
第3章　實現(xiàn)第 一個圍棋機器人　25
3．1　在Python中表達圍棋游戲　25
3．1．1　實現(xiàn)圍棋棋盤　28
3．1．2　在圍棋中跟蹤相連的棋組：棋鏈　28
3．1．3　在棋盤上落子和提子　30
3．2　跟蹤游戲狀態(tài)并檢查非法動作　32
3．2．1　自吃　33
3．2．2　劫爭　34
3．3　終盤　36
3．4　創(chuàng)建自己的第 一個機器人：理論上最弱的圍棋AI　37
3．5　使用Zobrist哈希加速棋局　41
3．6　人機對弈　46
3．7　小結(jié)　47
第二部分　機器學習和游戲AI
第4章　使用樹搜索下棋　51
4．1　游戲分類　52
4．2　利用極小化極大搜索預測對手　53
4．3　井字棋推演：一個極小化極大算法的示例　56
4．4　通過剪枝算法縮減搜索空間　58
4．4．1　通過棋局評估減少搜索深度　60
4．4．2　利用α-β剪枝縮減搜索寬度　63
4．5　使用蒙特卡洛樹搜索評估游戲狀態(tài)　66
4．5．1　在Python中實現(xiàn)蒙特卡洛樹搜索　69
4．5．2　如何選擇繼續(xù)探索的分支　72
4．5．3　將蒙特卡洛樹搜索應用于圍棋　74
4．6　小結(jié)　76
第5章　神經(jīng)網(wǎng)絡入門　77
5．1　一個簡單的用例：手寫數(shù)字分類　78
5．1．1　MNIST手寫數(shù)字數(shù)據(jù)集　78
5．1．2　MNIST數(shù)據(jù)的預處理　79
5．2　神經(jīng)網(wǎng)絡基礎(chǔ)　85
5．2．1　將對率回歸描述為簡單的神經(jīng)網(wǎng)絡　85
5．2．2　具有多個輸出維度的神經(jīng)網(wǎng)絡　85
5．3　前饋網(wǎng)絡　86
5．4　我們的預測有多好？損失函數(shù)及優(yōu)化　89
5．4．1　什么是損失函數(shù)　89
5．4．2　均方誤差　89
5．4．3　在損失函數(shù)中找極小值　90
5．4．4　使用梯度下降法找極小值　91
5．4．5　損失函數(shù)的隨機梯度下降算法　92
5．4．6　通過網(wǎng)絡反向傳播梯度　93
5．5　在Python中逐步訓練神經(jīng)網(wǎng)絡　95
5．5．1　Python中的神經(jīng)網(wǎng)絡層　96
5．5．2　神經(jīng)網(wǎng)絡中的激活層　97
5．5．3　在Python中實現(xiàn)稠密層　98
5．5．4　Python順序神經(jīng)網(wǎng)絡　100
5．5．5　將網(wǎng)絡集成到手寫數(shù)字分類應用中　102
5．6　小結(jié)　103
第6章　為圍棋數(shù)據(jù)設計神經(jīng)網(wǎng)絡　105
6．1　為神經(jīng)網(wǎng)絡編碼圍棋棋局　107
6．2　生成樹搜索游戲用作網(wǎng)絡訓練數(shù)據(jù)　109
6．3　使用Keras深度學習庫　112
6．3．1　了解Keras的設計原理　112
6．3．2　安裝Keras深度學習庫　113
6．3．3　熱身運動：在Keras中運行一個熟悉的示例　113
6．3．4　使用Keras中的前饋神經(jīng)網(wǎng)絡進行動作預測　115
6．4　使用卷積網(wǎng)絡分析空間　119
6．4．1　卷積的直觀解釋　119
6．4．2　用Keras構(gòu)建卷積神經(jīng)網(wǎng)絡　122
6．4．3　用池化層縮減空間　123
6．5　預測圍棋動作概率　124
6．5．1　在最后一層使用softmax激活函數(shù)　125
6．5．2　分類問題的交叉熵損失函數(shù)　126
6．6　使用丟棄和線性整流單元構(gòu)建更深的網(wǎng)絡　127
6．6．1　通過丟棄神經(jīng)元對網(wǎng)絡進行正則化　128
6．6．2　線性整流單元激活函數(shù)　129
6．7　構(gòu)建更強大的圍棋動作預測網(wǎng)絡　130
6．8　小結(jié)　133
第7章　從數(shù)據(jù)中學習：構(gòu)建深度學習機器人　134
7．1　導入圍棋棋譜　135
7．1．1　SGF文件格式　136
7．1．2　從KGS下載圍棋棋譜并復盤　136
7．2　為深度學習準備圍棋數(shù)據(jù)　137
7．2．1　從SGF棋譜中復盤圍棋棋局　138
7．2．2　構(gòu)建圍棋數(shù)據(jù)處理器　139
7．2．3　構(gòu)建可以高效地加載數(shù)據(jù)的圍棋數(shù)據(jù)生成器　146
7．2．4　并行圍棋數(shù)據(jù)處理和生成器　147
7．3　基于真實棋局數(shù)據(jù)訓練深度學習模型　148
7．4　構(gòu)建更逼真的圍棋數(shù)據(jù)編碼器　152
7．5　使用自適應梯度進行高效的訓練　155
7．5．1　在SGD中采用衰減和動量　155
7．5．2　使用Adagrad優(yōu)化神經(jīng)網(wǎng)絡　156
7．5．3　使用Adadelta優(yōu)化自適應梯度　157
7．6　運行自己的實驗并評估性能　157
7．6．1　測試架構(gòu)與超參數(shù)的指南　158
7．6．2　評估訓練與測試數(shù)據(jù)的性能指標　159
7．7　小結(jié)　160
第8章　實地部署圍棋機器人　162
8．1　用深度神經(jīng)網(wǎng)絡創(chuàng)建動作預測代理　163
8．2　為圍棋機器人提供Web前端　165
8．3　在云端訓練與部署圍棋機器人　169
8．4　與其他機器人對話：圍棋文本協(xié)議　170
8．5　在本地與其他機器人對弈　172
8．5．1　機器人應該何時跳過回合或認輸　172
8．5．2　讓機器人與其他圍棋程序進行對弈　173
8．6　將圍棋機器人部署到在線圍棋服務器　178
8．7　小結(jié)　182
第9章　通過實踐學習：強化學習　183
9．1　強化學習周期　184
9．2　經(jīng)驗包括哪些內(nèi)容　185
9．3　建立一個有學習能力的代理　188
9．3．1　從某個概率分布中進行抽樣　189
9．3．2　剪裁概率分布　190
9．3．3　初始化一個代理實例　191
9．3．4　在磁盤上加載并保存代理　191
9．3．5　實現(xiàn)動作選擇　193
9．4　自我對弈：計算機程序進行實踐訓練的方式　194
9．4．1　經(jīng)驗數(shù)據(jù)的表示　194
9．4．2　模擬棋局　197
9．5　小結(jié)　199
第　10章 基于策略梯度的強化學習　200
10．1　如何在隨機棋局中識別更佳的決策　201
10．2　使用梯度下降法修改神經(jīng)網(wǎng)絡的策略　204
10．3　使用自我對弈進行訓練的幾個小技巧　208
10．3．1　評估學習的進展　208
10．3．2　衡量強度的細微差別　209
10．3．3　SGD優(yōu)化器的微調(diào)　210
10．4　小結(jié)　213
第　11章 基于價值評估方法的強化學習　214
11．1　使用Q學習進行游戲　214
11．2　在Keras中實現(xiàn)Q學習　218
11．2．1　在Keras中構(gòu)建雙輸入網(wǎng)絡　218
11．2．2　用Keras實現(xiàn)ε貪婪策略　222
11．2．3　訓練一個行動-價值函數(shù)　225
11．3　小結(jié)　226
第　12章 基于演員-評價方法的強化學習　227
12．1　優(yōu)勢能夠告訴我們哪些決策更加重要　227
12．1．1　什么是優(yōu)勢　228
12．1．2　在自我對弈過程中計算優(yōu)勢值　230
12．2　為演員-評價學習設計神經(jīng)網(wǎng)絡　232
12．3　用演員-評價代理下棋　234
12．4　用經(jīng)驗數(shù)據(jù)訓練一個演員-評價代理　235
12．5　小結(jié)　240
第三部分　一加一大于二
第　13章 AlphaGo：全部集結(jié)　243
13．1　為AlphaGo訓練深度神經(jīng)網(wǎng)絡　245
13．1．1　AlphaGo的網(wǎng)絡架構(gòu)　246
13．1．2　AlphaGo棋盤編碼器　248
13．1．3　訓練AlphaGo風格的策略網(wǎng)絡　250
13．2　用策略網(wǎng)絡啟動自我對弈　252
13．3　從自我對弈數(shù)據(jù)衍生出一個價值網(wǎng)絡　254
13．4　用策略網(wǎng)絡和價值網(wǎng)絡做出更好的搜索　254
13．4．1　用神經(jīng)網(wǎng)絡改進蒙特卡洛推演　255
13．4．2　用合并價值函數(shù)進行樹搜索　256
13．4．3　實現(xiàn)AlphaGo的搜索算法　258
13．5　訓練自己的AlphaGo可能遇到的實踐問題　263
13．6　小結(jié)　265
第　14章 AlphaGo Zero：將強化學習集成到樹搜索中　266
14．1　為樹搜索構(gòu)建一個神經(jīng)網(wǎng)絡　267
14．2　使用神經(jīng)網(wǎng)絡來指導樹搜索　268
14．2．1　沿搜索樹下行　271
14．2．2　擴展搜索樹　274
14．2．3　選擇一個動作　276
14．3　訓練　277
14．4　用狄利克雷噪聲改進探索　281
14．5　處理超深度神經(jīng)網(wǎng)絡的相關(guān)最新技術(shù)　282
14．5．1　批量歸一化　282
14．5．2　殘差網(wǎng)絡　283
14．6　探索額外資源　284
14．7　結(jié)語　285
14．8　小結(jié)　285
附錄A　數(shù)學基礎(chǔ)　286
附錄B　反向傳播算法　293
附錄C　圍棋程序與圍棋服務器　297
附錄D　用AWS來訓練和部署圍棋程序與圍棋服務器　300
附錄E　將機器人發(fā)布到OGS　307