第I部分 最小二乘方法的框架
第1章 数据拟合问题的引入
1.1 什么是数据拟合
1.2 符号说明
1.3 线性与非线性问题
1.4 线性数据拟合的应用实例
1.4.1 估计常数
1.4.2 估计直线中的参数(线性回归)
1.4.3 多项式函数
1.4.4 多元线性回归
1.4.5 维纳滤波
1.5 若干非线性数据拟合问题
1.5.1 指数函数
1.5.2 复合高斯贝尔函数
1.5.3 圆周函数
1.5.4 神经网络
1.6 测试题
第2章 基于最小二乘方法估计模型参数
2.1 “最小二乘”的含义
2.2 求解最小化问题的常规算法
2.3 需要注意的问题
2.4 线性模型函数条件下的简化处理
2.5 未知模型函数条件下的曲线拟合
2.6 计算实例
2.6.1 常数拟合
2.6.2 直线拟合
2.6.3 多项式函数拟合
2.6.4 平面拟合
2.6.5 线性预测
2.6.6 余弦函数拟合
2.6.7 坐标旋转和平移
2.6.8 指数函数拟合
2.6.9 复合高斯贝尔函数拟合
2.6.10 圆周拟合
2.6.11 神经网络
2.7 测试题
第3章 加权和异常值
3.1 加权的好处是什么
3.2 异常值
3.3 权值估计
3.3.1 分段估计权值
3.3.2 利用偏差估计权值
3.4 异常值检测方法
3.4.1 标准残差法
3.4.2 聚类检测法
3.4.3 随机抽样一致性(RANSAC)方法
3.5 加权数据拟合与异常值检测的应用实例
3.5.1 常数拟合
3.5.2 直线拟合
3.5.3 平面拟合
3.5.4 坐标变换
3.5.5 线性预测
3.5.6 余弦函数拟合
3.5.7 指数函数拟合
3.5.8 复合高斯贝尔函数拟合
3.5.9 圆周拟合
3.5.10 比较分段估计权值与基于偏差估计权值的性能
3.6 结论
3.6.1 权值评估
3.6.2 比较各种异常值检测方法
3.6.3 权值的作用
3.7 测试题
第4章 拟合结果的不确定度
4.1 拟合优度、精确度与准确性
4.1.1 统计模型和数据的一致性
4.1.2 样本方差
4.2 参数估计值的不确定度
4.3 模型预测的不确定度
4.4 拟合图形检查
4.5 计算实例
4.5.1 常数拟合
4.5.2 直线拟合
4.5.3 余弦函数拟合
4.5.4 模型失配
4.6 测试题
第II部分 数学、优化方法以及辅助内容
第5章 矩阵代数
5.1 基础知识
5.2 行列式
5.3 矩阵求逆的数值计算方法
5.3.1 伴随矩阵法
5.3.2 高斯一约当消元法
5.3.3 LU分解方法
5.3.4 奇异值分解(sVD)方法
5.4 测试题
第6章 最小二乘方法的思想
6.1 正态分布
6.2 最大似然原理
6.3 拟合线性模型函数
6.3.1 标准方法
6.3.2 利用奇异值分解(sVD)进行求解
6.3.3 条件缩放
6.4 拟合非线性模型函数
6.4.1 误差曲面的近似
6.4.2 高斯一牛顿方法
6.4.3 梯度下降方法
6.4.4 kvenberg—Marquardt方法
6.4.5 寻求极小值点的例子
6.5 测试题
第7章 补充工具和方法
7.1 其他参数估计方法
7.1.1 递归自适应参数估计方法
7.1.2 迭代的梯度下降方法
7.1.3 进化方法
7.1.4 利用反向传播算法对神经网络进行训练
7.2 用于异常值检测的chauvenet准则
7.3 误差传播原理
7.4 利用手工推导线性最小二乘问题的解
7.4.1 直线拟合
7.4.2 维纳滤波
7.5 联合处理多种模型函数
7.5.1 例子l:坐标变换
7.5.2 例子2:圆周运动
7.6 针对相关数据进行加权最小二乘拟合
7.7 总体最小二乘(TLS)拟合
7.7.1 圆周的正交拟合
7.7.2 通用性的方法
7.8 测试题
附录A 异常值检测方法的比较
A.1 正态分布数据集
A.1.1 没有异常值的数据集
A.1.2 含有异常值的数据集
A.2 非正态分布数据集
A.2.1 拉普拉斯分布
A.2.2 均匀分布
A.3 讨论
附录B 实现
B.1 功能
B.2 使用说明
B.2.1 输入和输出
B.2.2 模型参数的初始化
B.2.3 处理控制
B.2.4 权值和异常值
B.3 源代码的通用架构
B.4 模型函数
B.4.1 数值微分
B.4.2 多维条件处理
B.4.3 参数取值范围
B.4.4 参数初始化
B.5 特殊算法
B.5.1 LU分解
B.5.2 奇异值分解
B.5.3 排序
B.6 程序的优化
B.7 性能测试
B.7.1 拟合线性系统
B.7.2 拟合非线性系统
部分习题解答
参考文献