人工智能理論與實(shí)踐

緒論.........................（1）     第1章經(jīng)典人工神經(jīng)網(wǎng)絡(luò).........................（4）     1.1生物神經(jīng)網(wǎng)絡(luò)基本機(jī)理.........................（4）     1.1.1生物神經(jīng)元結(jié)構(gòu).........................（4）     1.1.2生物神經(jīng)元信息的傳遞與接收.........................（5）     1.1.3生物神經(jīng)元信息的整合.........................（6）     1.1.4生物神經(jīng)網(wǎng)絡(luò).........................（8）     1.2人工神經(jīng)元.........................（8）     1.2.1人工神經(jīng)元的符號(hào)描述.........................（8）     1.2.2人工神經(jīng)元的數(shù)學(xué)模型.........................（9）     1.2.3人工神經(jīng)元的激活函數(shù).........................（10）     1.3單層感知機(jī).........................（14）     1.3.1單層感知機(jī)的表達(dá).........................（14）     1.3.2單層感知機(jī)的訓(xùn)練算法及實(shí)例.........................（17）     1.3.3單層感知機(jī)的局限性.........................（19）     1.4多層感知機(jī).........................（20）     1.4.1多層感知機(jī)的功能.........................（20）     1.4.2多層感知機(jī)的數(shù)學(xué)表達(dá).........................（24）     1.4.3多層感知機(jī)的網(wǎng)絡(luò)誤差.........................（25）     1.5BP人工神經(jīng)網(wǎng)絡(luò).........................（25）     1.5.1誤差反傳訓(xùn)練算法.........................（26）     1.5.2梯度下降法.........................（29）     1.5.3BP人工神經(jīng)網(wǎng)絡(luò)設(shè)計(jì)方法.........................（30）     1.5.4BP人工神經(jīng)網(wǎng)絡(luò)的局限性及改進(jìn).........................（31）     本章小結(jié).........................（34）     實(shí)踐1編程環(huán)境安裝.........................（35）     實(shí)踐2利用感知機(jī)實(shí)現(xiàn)Mnist手寫(xiě)數(shù)字分類(lèi).........................（35）     習(xí)題.........................（35）     參考文獻(xiàn).........................（36）     第2章支持向量機(jī).........................（37）     2.1支持向量機(jī)基本思想.........................（37）     2.1.1從感知機(jī)到支持向量機(jī).........................（37）     2.1.2SVM解決問(wèn)題思路.........................（38）     2.1.3SVM的發(fā)展過(guò)程.........................（41）     2.2線(xiàn)性硬可分支持向量機(jī).........................（41）     2.2.1線(xiàn)性可分與分類(lèi)間隔.........................（41）     2.2.2幾何間隔.........................（42）     2.2.3硬間隔SVM與間隔最大化.........................（43）     2.2.4硬間隔SVM的對(duì)偶算法.........................（44）     2.3線(xiàn)性軟可分支持向量機(jī).........................（48）     2.3.1軟間隔SVM與軟間隔最大化.........................（48）     2.3.2軟間隔SVM的對(duì)偶問(wèn)題.........................（49）     2.4非線(xiàn)性支持向量機(jī).........................（50）     2.4.1非線(xiàn)性模型與升維.........................（50）     2.4.2非線(xiàn)性SVM的對(duì)偶問(wèn)題.........................（51）     2.4.3核函數(shù).........................（51）     2.5SMO算法.........................（53）     2.5.1SMO主要框架.........................（54）     2.5.2變量的啟發(fā)式選擇.........................（58）     本章小結(jié).........................（59）     實(shí)踐3利用非線(xiàn)性支持向量機(jī)實(shí)現(xiàn)IRIS鳶尾花數(shù)據(jù)分類(lèi).........................（59）     習(xí)題.........................（60）     參考文獻(xiàn).........................（60）     第3章卷積神經(jīng)網(wǎng)絡(luò).........................（61）     3.1卷積神經(jīng)網(wǎng)絡(luò)思想.........................（61）     3.1.1卷積神經(jīng)網(wǎng)絡(luò)解決問(wèn)題的思路.........................（61）     3.1.2卷積神經(jīng)網(wǎng)絡(luò)的發(fā)展概述.........................（63）     3.2卷積神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu).........................（64）     3.2.1輸入層.........................（65）     3.2.2卷積層.........................（66）     3.2.3池化層.........................（72）     3.2.4全連接層.........................（73）     3.3典型結(jié)構(gòu).........................（75）     3.3.1LeNet.........................（75）     3.3.2AlexNet.........................（75）     3.3.3ZFNet.........................（78）     3.3.4GoogLeNet.........................（80）     3.3.5ResNet.........................（83）     本章小結(jié).........................（85）     實(shí)踐4利用卷積神經(jīng)網(wǎng)絡(luò)實(shí)現(xiàn)Mnist手寫(xiě)數(shù)字分類(lèi).........................（85）     習(xí)題.........................（85）     參考文獻(xiàn).........................（86）     第4章循環(huán)神經(jīng)網(wǎng)絡(luò).........................（87）     4.1經(jīng)典循環(huán)神經(jīng)網(wǎng)絡(luò).........................（87）     4.1.1經(jīng)典循環(huán)神經(jīng)網(wǎng)絡(luò)基本結(jié)構(gòu).........................（87）     4.1.2幾種典型的循環(huán)神經(jīng)網(wǎng)絡(luò).........................（91）     4.1.3RNN前向傳播與反向傳播.........................（97）     4.2長(zhǎng)短期記憶神經(jīng)網(wǎng)絡(luò).........................（101）     4.2.1LSTM門(mén)控結(jié)構(gòu).........................（102）     4.2.2LSTM遺忘門(mén).........................（104）     4.2.3LSTM輸入門(mén).........................（104）     4.2.4LSTM輸出門(mén).........................（105）     4.2.5LSTM結(jié)構(gòu)的理解.........................（106）     本章小結(jié).........................（108）     實(shí)踐5利用長(zhǎng)短時(shí)記憶網(wǎng)絡(luò)實(shí)現(xiàn)股票價(jià)格預(yù)測(cè).........................（108）     習(xí)題.........................（109）     參考文獻(xiàn).........................（110）     第5章Transformer模型.........................（111）     5.1總體思想與框架結(jié)構(gòu).........................（111）     5.2輸入信息編碼方式.........................（113）     5.2.1詞嵌入矩陣的獲取.........................（114）     5.2.2位置嵌入矩陣的獲取.........................（115）     5.3自注意力機(jī)制.........................（116）     5.3.1自注意力機(jī)制的基本思想.........................（116）     5.3.2自注意力機(jī)制的計(jì)算步驟.........................（119）     5.4編碼器信息編碼機(jī)制與整體結(jié)構(gòu).........................（121）     5.4.1編碼器中的多頭注意力機(jī)制.........................（121）     5.4.2編碼器中的前饋網(wǎng)絡(luò)層.........................（122）     5.4.3編碼器中的疊加和歸一層.........................（123）     5.4.4編碼器結(jié)構(gòu)總覽.........................（123）     5.5解碼器信息編碼機(jī)制與整體結(jié)構(gòu).........................（124）     5.5.1解碼器的掩碼多頭注意力層.........................（126）     5.5.2解碼器的多頭注意力層.........................（128）     5.5.3解碼器的前饋網(wǎng)絡(luò)層與疊加和歸一層.........................（130）     5.5.4解碼器的線(xiàn)性層和Softmax層.........................（131）     5.5.5解碼器結(jié)構(gòu)總覽.........................（132）     本章小結(jié).........................（133）     實(shí)踐6利用Transformer實(shí)現(xiàn)電影評(píng)論數(shù)據(jù)情感分析.........................（133）     習(xí)題.........................（133）     參考文獻(xiàn).........................（134）     第6章強(qiáng)化學(xué)習(xí).........................（135）     6.1強(qiáng)化學(xué)習(xí)基本思想.........................（135）     6.1.1強(qiáng)化學(xué)習(xí)的擬人思路.........................（135）     6.1.2強(qiáng)化學(xué)習(xí)的典型特征.........................（136）     6.1.3強(qiáng)化學(xué)習(xí)的發(fā)展思路.........................（137）     6.2強(qiáng)化學(xué)習(xí)的概念體系.........................（137）     6.2.1隨機(jī)變量與期望.........................（137）     6.2.2智能體-環(huán)境交互.........................（139）     6.2.3動(dòng)態(tài)特性函數(shù).........................（143）     6.2.4目標(biāo)與回報(bào).........................（145）     6.2.5策略和價(jià)值函數(shù).........................（147）     6.2.6最優(yōu)策略與最優(yōu)價(jià)值函數(shù).........................（151）     6.3模型強(qiáng)化學(xué)習(xí)方法.........................（153）     6.3.1策略評(píng)估.........................（154）     6.3.2策略改進(jìn).........................（158）     6.3.3策略迭代.........................（159）     6.3.4價(jià)值迭代.........................（160）     6.3.5廣義策略迭代.........................（161）     6.4無(wú)模型強(qiáng)化學(xué)習(xí)方法.........................（162）     6.4.1蒙特卡洛強(qiáng)化學(xué)習(xí)方法.........................（162）     6.4.2時(shí)序差分強(qiáng)化學(xué)習(xí)方法.........................（171）     6.5強(qiáng)化學(xué)習(xí)不同方法的關(guān)系.........................（176）     6.5.1模型與無(wú)模型強(qiáng)化學(xué)習(xí)方法的關(guān)系.........................（176）     6.5.2無(wú)模型強(qiáng)化學(xué)習(xí)方法的統(tǒng)一性.........................（177）     6.5.3各種方法的維度關(guān)系.........................（178）     本章小結(jié).........................（179）     實(shí)踐7利用Q-Learning幫助智能體在簡(jiǎn)單6格環(huán)境中達(dá)成目標(biāo).........................（180）     習(xí)題.........................（180）     參考文獻(xiàn).........................（180）     第7章深度強(qiáng)化學(xué)習(xí).........................（182）     7.1深度強(qiáng)化學(xué)習(xí)基本思想.........................（182）     7.1.1強(qiáng)化學(xué)習(xí)面臨的問(wèn)題.........................（182）     7.1.2強(qiáng)化學(xué)習(xí)與深度學(xué)習(xí)結(jié)合.........................（183）     7.2大型狀態(tài)空間DQN深度強(qiáng)化學(xué)習(xí).........................（183）     7.2.1DQN深度強(qiáng)化學(xué)習(xí)基本框架.........................（184）     7.2.2DQN基本框架結(jié)構(gòu)的學(xué)習(xí)過(guò)程.........................（185）     7.2.3DQN基本框架結(jié)構(gòu)存在的弊端.........................（186）     7.2.4DQN基本框架的改進(jìn)方法.........................（187）     7.2.5改進(jìn)版DQN的架構(gòu).........................（189）     7.3隨機(jī)策略深度強(qiáng)化學(xué)習(xí).........................（190）     7.3.1策略學(xué)習(xí)基本思路.........................（190）     7.3.2策略學(xué)習(xí)的目標(biāo)函數(shù).........................（191）     7.3.3策略梯度定理.........................（192）     7.3.4Reinforce方法.........................（192）     7.3.5Actor-critic方法.........................（193）     7.3.6帶基線(xiàn)的策略學(xué)習(xí)方法.........................（195）     7.3.7帶基線(xiàn)的Reinforce方法.........................（196）     7.3.8Advantage Actor-critic方法.........................（196）     7.4連續(xù)動(dòng)作空間深度強(qiáng)化學(xué)習(xí).........................（198）     7.4.1深度確定性策略梯度方法.........................（198）     7.4.2隨機(jī)高斯策略方法.........................（202）     7.5深度強(qiáng)化學(xué)習(xí)各種方法之間的關(guān)聯(lián).........................（204）     7.5.1價(jià)值評(píng)估是4種方法的共同基礎(chǔ).........................（204）     7.5.2策略梯度的Actor-critic范式.........................（204）     7.5.3目標(biāo)網(wǎng)絡(luò)的通用性.........................（205）     7.6近端策略?xún)?yōu)化算法.........................（205）     7.6.1傳統(tǒng)策略梯度訓(xùn)練面臨的問(wèn)題.........................（205）     7.6.2TRPO算法的貢獻(xiàn).........................（206）     7.6.3PPO算法對(duì)TRPO算法的改進(jìn).........................（207）     7.6.4PPO算法流程.........................（207）     本章小結(jié).........................（210）     實(shí)踐8利用DQN將著陸器成功降落在月球表面.........................（211）     實(shí)踐9利用PPO-Clip算法幫助小車(chē)平衡桿系統(tǒng)保持穩(wěn)定.........................（211）     習(xí)題.........................（212）     參考文獻(xiàn).........................（212）