線性回歸方法的相對有效性和估值漂移

目錄
前言
第1章 概述 1
1.1 回歸分析 1
1.2 回歸分析的分類 2
1.3 兩種參數(shù)估計方法的比較 2
1.3.1 兩種參數(shù)估計方法比較的指標 2
1.3.2 仿真實驗方法 4
第2章 一元線性回歸 5
2.1 一元線性回歸模型的建立 5
2.2 一元線性回歸方程的通解 5
2.3 一元線性回歸方程的擬合效果度量 6
2.3.1 相關系數(shù) 7
2.3.2 總變差平方和的分解 8
2.3.3 判定系數(shù) 8
2.4 一元線性回歸方程的算例 9
2.5 一元線性回歸自變量的優(yōu)化 13
2.5.1 可靠性矩陣 14
2.5.2 自變量黃金分割及其可靠性矩陣 16
2.5.3 自變量等差級數(shù)和自變量雙向黃金分割的比較 18
第3章 多元線性回歸 21
3.1 多元線性回歸模型的建立 21
3.2 多元線性回歸方程的通解 21
3.3 多元線性回歸方程的有效性度量 22
3.3.1 復相關系數(shù) 23
3.3.2 復判定系數(shù) 23
3.4 逐步線性回歸 29
3.4.1 逐步線性回歸數(shù)學模型 29
3.4.2 數(shù)據(jù)的標準化 30
3.4.3 選入變量與剔除變量的原則 31
3.4.4 逐步線性回歸的計算 31
3.4.5 逐步線性回歸算例 36
第4章 一元非線性回歸 42
4.1 一元非線性回歸模型的建立 42
4.2 一元非線性回歸的不同模型 44
4.2.1 間接觀測值回歸與直接觀測值回歸的定義 44
4.2.2 間接觀測值回歸與直接觀測值回歸的計算 44
4.2.3 間接觀測值回歸與直接觀測值回歸的算例 55
4.2.4 間接觀測值回歸與直接觀測值回歸的比較 60
第5章 穩(wěn)健最小二乘法線性回歸 66
5.1 穩(wěn)健估計原理 66
5.1.1 極大似然估計準則 66
5.1.2 正態(tài)分布密度下的極大似然估計準則 66
5.1.3 穩(wěn)健估計的極大似然估計準則 67
5.2 穩(wěn)健估計的選權迭代法 68
5.2.1 等權獨立觀測的選權迭代法 68
5.2.2 不等權獨立觀測的選權迭代法 69
5.2.3 選權迭代算法 70
5.3 常用穩(wěn)健最小二乘法估計方法 71
5.4 穩(wěn)健最小二乘法線性回歸算例 72
第6章 再生權最小二乘法線性回歸 87
6.1 再生權最小二乘法原理和線性回歸計算 87
6.1.1 再生權最小二乘法原理 87
6.1.2 再生權最小二乘法線性回歸計算 89
6.2 穩(wěn)健線性回歸相對有效的穩(wěn)健估計方法 97
6.2.1 一元線性回歸模型 97
6.2.2 二元線性回歸模型 102
6.2.3 三元線性回歸模型 105
6.2.4 四元線性回歸模型 107
6.2.5 五元線性回歸模型 110
6.2.6 穩(wěn)健線性回歸相對有效的穩(wěn)健估計方法總結 113
第7章 總體最小二乘法線性回歸的相對有效性 117
7.1 總體最小二乘原理 117
7.2 總體最小二乘線性回歸的基本模型 118
7.3 總體最小二乘解算方法 118
7.3.1 總體最小二乘奇異值分解法 118
7.3.2 總體最小二乘最小奇異值解法 120
7.3.3 總體最小二乘的Euler-Lagrange 逼近法 122
7.4 總體最小二乘法線性回歸的算例 124
7.5 總體最小二乘法與最小二乘法的幾何解釋 134
7.6 總體最小二乘法與最小二乘法在線性回歸中的相對有效性 136
7.6.1 不同誤差影響模型 136
7.6.2 相對有效性的比較 136
7.6.3 一元線性回歸中的相對有效性 137
7.6.4 二元線性回歸中的相對有效性 141
7.6.5 三元線性回歸中的相對有效性 144
7.6.6 四元線性回歸中的相對有效性 147
7.6.7 五元線性回歸中的相對有效性 150
7.6.8 總體最小二乘法與最小二乘法的相對有效性 154
第8章 穩(wěn)健總體最小二乘法線性回歸的相對有效性 155
8.1 穩(wěn)健總體最小二乘法線性回歸 155
8.1.1 多元線性回歸模型 155
8.1.2 總體最小二乘法 156
8.1.3 穩(wěn)健總體最小二乘法解算 157
8.1.4 穩(wěn)健總體最小二乘法算例 158
8.2 不同誤差影響模型和仿真實驗 163
8.2.1 不同誤差影響模型 163
8.2.2 不同誤差影響模型下穩(wěn)健總體最小二乘法算例 164
8.3 穩(wěn)健總體最小二乘法一元線性回歸的相對有效性 180
8.3.1 一元線性回歸算例 180
8.3.2 一元線性回歸仿真實驗 183
8.4 穩(wěn)健總體最小二乘法多元線性回歸的相對有效性 190
8.4.1 穩(wěn)健總體最小二乘法二元線性回歸的相對有效性 190
8.4.2 穩(wěn)健總體最小二乘法三元線性回歸的相對有效性 195
8.4.3 穩(wěn)健總體最小二乘法四元線性回歸的相對有效性 200
8.4.4 穩(wěn)健總體最小二乘法五元線性回歸的相對有效性 206
8.5 穩(wěn)健總體最小二乘法線性回歸的相對有效性總結 213
第9章 最小二乘法線性回歸的估值漂移 214
9.1 參數(shù)的估值漂移和檢驗方法 214
9.2 最小二乘法線性回歸的估值漂移現(xiàn)象 216
9.2.1 線性回歸的計算 216
9.2.2 估值漂移算例 218
9.3 一元線性回歸的估值漂移 222
9.3.1 一元線性回歸估值漂移算例 222
9.3.2 一元線性回歸仿真實驗 226
9.3.3 一元線性回歸估值漂移的討論 233
9.4 二元線性回歸的估值漂移 234
9.4.1 二元線性回歸仿真實驗 234
9.4.2 二元線性回歸估值漂移的討論 241
9.5 三元線性回歸的估值漂移 242
9.5.1 三元線性回歸仿真實驗 242
9.5.2 三元線性回歸估值漂移的討論 249
9.6 四元線性回歸的估值漂移 250
9.6.1 四元線性回歸仿真實驗 250
9.6.2 四元線性回歸估值漂移的討論 257
9.7 五元線性回歸的估值漂移 258
9.7.1 五元線性回歸算例 258
9.7.2 五元線性回歸仿真實驗 263
9.7.3 五元線性回歸估值漂移的討論 270
9.8 最小二乘法線性回歸中回歸系數(shù)估值漂移的判定 271
第10章 總體最小二乘法線性回歸的估值漂移 273
10.1 一元線性回歸的估值漂移 273
10.1.1 一元線性回歸估值漂移算例 273
10.1.2 一元線性回歸仿真實驗 276
10.1.3 一元線性回歸估值漂移的討論 285
10.2 二元線性回歸的估值漂移 286
10.2.1 二元線性回歸仿真實驗 286
10.2.2 二元線性回歸估值漂移的討論 294
10.3 三元線性回歸的估值漂移 295
10.3.1 三元線性回歸估值漂移算例 295
10.3.2 三元線性回歸仿真實驗 299
10.3.3 三元線性回歸估值漂移的討論 307
10.4 四元線性回歸的估值漂移 308
10.4.1 四元線性回歸仿真實驗 308
10.4.2 四元線性回歸估值漂移的討論 316
10.5 五元線性回歸的估值漂移 317
10.5.1 五元線性回歸估值漂移算例 317
10.5.2 五元線性回歸仿真實驗 324
10.5.3 五元線性回歸估值漂移的討論 332
10.6 總體最小二乘法線性回歸估值漂移總結 333
參考文獻 335