神經(jīng)網(wǎng)絡結(jié)構(gòu)設計的理論與方法

第1章概論
1.1神經(jīng)網(wǎng)絡簡介
1.2神經(jīng)網(wǎng)絡研究內(nèi)容
1.3本書內(nèi)容
1.4參考資料簡介
第2章基本的神經(jīng)元及其學習規(guī)則
2.1神經(jīng)元模型
2.1.1大腦神經(jīng)細胞
2.1.2MP模型
2.1.3一般神經(jīng)元模型
2.2神經(jīng)元學習算法
2.2.1Hebb學習規(guī)則
2.2.2離散感知器學習規(guī)則
2.2.3學習規(guī)則
2.2.4Widrow-Hoff學習規(guī)則
2.3單個神經(jīng)元解決問題的能力
2.3.1單個神經(jīng)元的分類能力
2.3.2多個神經(jīng)元的分類能力
2.4神經(jīng)網(wǎng)絡的拓撲結(jié)構(gòu)
2.4.1前向神經(jīng)網(wǎng)絡
2.4.2反饋神經(jīng)網(wǎng)絡
第3章多層感知器網(wǎng)絡
3.1兩層感知器網(wǎng)絡
3.1.1單神經(jīng)元用于兩分類
3.1.2多輸出兩層感知器用于多分類
3.2線性閾值單元組成的多層感知器
3.3BP網(wǎng)及BP算法
3.3.1BP網(wǎng)絡結(jié)構(gòu)
3.3.2BP學習算法
3.3.3BP算法應用例子
3.3.4BP網(wǎng)和BP算法應用要點
3.3.5BP算法的改進
第4章徑向基函數(shù)神經(jīng)網(wǎng)絡
4.1RBF網(wǎng)結(jié)構(gòu)和工作原理
4.2RBF網(wǎng)的生理學基礎
4.3RBF網(wǎng)的數(shù)學基礎
4.3.1內(nèi)插問題
4.3.2正則化網(wǎng)絡
4.4RBF網(wǎng)常用的學習算法
4.4.1聚類方法
4.4.2梯度訓練方法
4.4.3正交最小二乘(OLS)學習算法
4,5RBF網(wǎng)的學習動態(tài)
4.5.1定義
4.5.2主要結(jié)論
4.5.3算例
4.5.4RBF網(wǎng)的學習動態(tài)與RBF網(wǎng)設計
4.6仿真例子
4.7RBF網(wǎng)的特點及其他問題
第5章Hopfield網(wǎng)絡
5.1連續(xù)Hopfield網(wǎng)絡
5.1.1連續(xù)Hopfield網(wǎng)絡原理
5.1.2Hopfield網(wǎng)絡的穩(wěn)定性
5.2離散Hopfield網(wǎng)絡
5.2.1離散Hopfield網(wǎng)絡原理
5.2.2離散Hopfield網(wǎng)絡的穩(wěn)定性
5.3Hopfield網(wǎng)絡應用
5.3.1連續(xù)Hopfield網(wǎng)絡與優(yōu)化計算
5.3.2離散Hopfield網(wǎng)絡與聯(lián)想存儲
5.4應用和仿真實例
5.4.1連續(xù)Hopfield網(wǎng)絡應用實例：TSP問題
5.4.2離散Hopfield網(wǎng)絡仿真：字符存儲
第6章自組織特征映射
6.1生物系統(tǒng)中的競爭
6.2SOFM結(jié)構(gòu)
6.3SOFM的學習算法
6.4仿真例子
第7章神經(jīng)網(wǎng)絡的泛化理論
7.1神經(jīng)網(wǎng)絡的泛化理論簡介
7.2泛化誤差的偏差-標準差分解
7.3結(jié)構(gòu)復雜性和樣本復雜性對神經(jīng)網(wǎng)絡泛化能力的影響
7.3.1線性閾值神經(jīng)網(wǎng)絡
7.3.2函數(shù)逼近神經(jīng)網(wǎng)絡
7.4正則化方法對泛化能力的影響
7.5神經(jīng)網(wǎng)絡集成對泛化能力的影響
7.6樣本輸入中加噪聲對泛化能力的影響
7.7其他因素對泛化能力的影響
第8章神經(jīng)網(wǎng)絡的參數(shù)優(yōu)化設計
8.1主動學習
8.1.1原理
8.1.2仿真例子：三角形概念學習
8.2在樣本輸入中添加隨機噪聲
8.2.1噪聲添加方法
8.2.2仿真例子
8.3神經(jīng)網(wǎng)絡集成
8.3.1原理
8.3.2仿真例子：廣義異或問題
8.4基于先驗知識的泛化方法
8.5最優(yōu)停止法
8.5.1原理
8.5.2仿真例子：Hermit多項式逼近
第9章神經(jīng)網(wǎng)絡構(gòu)造方法
9.1神經(jīng)網(wǎng)絡構(gòu)造方法簡介
9.2級連相關(guān)算法
9.2.1BP算法收斂速度慢的原區(qū)
9.2.2網(wǎng)絡結(jié)構(gòu)
9.2.3權(quán)值學習算法
9.2.4算法實現(xiàn)
9.2.5算法討論
9.2.6仿真結(jié)果：雙螺旋分類問題
9.3資源分配網(wǎng)絡
9.3.1RAN網(wǎng)絡結(jié)構(gòu)
9.3.2學習算法
9.3.3算法實現(xiàn)
9.3.4RAN的優(yōu)點與缺點
9.3.5仿真：Hermit多項式在線學習
第10章神經(jīng)網(wǎng)絡剪枝方法
10.1權(quán)衰減法
10.1.1權(quán)消去法剪枝原理
10.1.2正則化系數(shù)丸的動態(tài)修改策略
10.1.3試驗例子：非線性系統(tǒng)辨識
10.2靈敏度計算方法
10.2.1Skeletonization方法原理
10.2.2仿真例子：非線性系統(tǒng)結(jié)構(gòu)辨識
10.3相關(guān)性剪枝方法
10,3.1隱節(jié)點之間相關(guān)情況分析
10.3.2隱節(jié)點合成方法
10.3.3仿真例子
第11章進化神經(jīng)網(wǎng)絡方法
11.1進化神經(jīng)網(wǎng)絡簡介
11.2進化優(yōu)選算法
11.2.1OLS算法設計RBF網(wǎng)的缺點
11.2.2進化優(yōu)選算法的數(shù)學基礎
11.2.3進化優(yōu)選算法(ESA算法)
11.2.4算法的效率分析
11.2.5ESA算法實現(xiàn)
11.2.6仿真例子
第12章混雜神經(jīng)網(wǎng)絡設計
12.1資源優(yōu)化網(wǎng)絡
12.1.1資源優(yōu)化網(wǎng)絡簡介
12.1.2RON在線RBF網(wǎng)設計方法
12.1.3仿真研究
12.1.4RON的優(yōu)缺點
12.2神經(jīng)網(wǎng)絡的結(jié)構(gòu)分解方法
12.2.1神經(jīng)網(wǎng)絡的結(jié)構(gòu)分解方法簡介
12.2.2神經(jīng)網(wǎng)絡的結(jié)構(gòu)分解原理
12.2.3基于結(jié)構(gòu)分解的神經(jīng)網(wǎng)絡設計方法
12.2.4應用例子
附錄A：用于三分類的BP算法程序
附錄B：用于函數(shù)逼近的BP算法程序
附錄C：基于聚類的RBF網(wǎng)設計算法
附錄D：基于梯度法的RBF網(wǎng)設計算法
附錄E：基于OLS的RBF網(wǎng)設計算法
附錄F：連續(xù)Hopfield網(wǎng)絡解決TSP的程序
附錄G：樣本輸入加噪聲訓練程序
附錄H：神經(jīng)網(wǎng)絡集成訓練程序
附錄I：最優(yōu)停止法訓練程序
附錄J：級連相關(guān)算法
附錄K：資源分配網(wǎng)絡算法
附錄L：權(quán)消去法
附錄M：Skeletonization方法
附錄N：隱節(jié)點合成算法
參考文獻