每日精学 180|Cholesky预白化与加权残差

2026-09-25

← 技术专题 · 每日精学目录

雷达 · 通信 · 电子战 / 基础精学 180

正定噪声协方差的Cholesky因子可将相关噪声转换为单位协方差,从而把加权最小二乘写成普通欧氏残差。

实际记录只包含有限个采样值。由记录计算得到的数值与总体参数并不相同:前者受记录长度、噪声、边界约定及运算精度影响,后者属于给定模型的属性。建立可复核结论需要先固定输入含义、统计假设和归一化方式,再比较可计算量与理论量。

01
模型与符号

实对称正定噪声协方差;Cholesky下三角因子对角严格正;先采用线性方程求解而非显式求逆。

R:噪声协方差(幅度平方)

L:Cholesky因子(幅度)

\widetilde e:白化残差(无量纲)

02
从模型到公式

协方差分解

正定条件保证具有正对角下三角分解。

R=LL^{\mathrm T}

白化定义

通过下三角方程解出白化残差。

L\widetilde e=e,\quad\widetilde e=L^{-1}e

白化协方差

将原协方差代入线性变换关系。

\operatorname{cov}(\widetilde e)=L^{-1}RL^{-\mathrm T}=I

加权范数

原空间的逆协方差度量等于白化空间的欧氏范数。

e^{\mathrm T}R^{-1}e=e^{\mathrm T}L^{-\mathrm T}L^{-1}e=\|\widetilde e\|_2^2

模型同时变换

数据和设计矩阵必须用相同因子处理。

\widetilde y=L^{-1}y,\quad\widetilde A=L^{-1}A,\quad\min_\theta\|\widetilde y-\widetilde A\theta\|_2^2

二阶前代

两维下可清晰展示顺序计算依赖。

\widetilde e_1=e_1/L_{11},\quad\widetilde e_2=(e_2-L_{21}\widetilde e_1)/L_{22}

三角求解与Mahalanobis长度

协方差 R 正定时,Cholesky 分解为 R=LL^{\mathrm T}。预白化残差由三角方程 Lw=r 求解,无需显式构造逆矩阵。

其能量满足

w^{\mathrm T}w=r^{\mathrm T}L^{-\mathrm T}L^{-1}r=r^{\mathrm T}R^{-1}r.

故普通欧氏长度在白化坐标中对应原坐标的协方差加权长度。

若先对白化坐标施加任意正交旋转 U,有

\|Uw\|^2=\|w\|^2.

白化矩阵并非唯一,但加权残差值不变。协方差近奇异时,弱方差方向会被强烈放大;

增加对角正则量改变了度量,应明确其是建模选择,而不是完全等价的数值实现。

03
物理含义

白化改变坐标尺度与方向,使所有噪声方向拥有相同方差。若仅变换观测而不变换模型,拟合对象就被改变;正确预白化必须保持残差的线性关系。

04
固定参数算例

选择下三角L为[2,0;1,2],产生50000组相关高斯样本,验证白化协方差接近单位阵和加权范数恒等式。数值脚本使用固定随机种子;随机实验的判据采用有限容差,代数关系的判据采用浮点残差。图中同时展示参数变化趋势与对应误差,关键数值写入独立结果文件。

固定参数数值验证结果
量数值
样本数50000
original cross covariance2.00657465292
whitened cross covariance0.00419857321564
whitened covariance error0.00788308362806
weighted norm identity error3.5527136788e-15
triangular solve error4.4408920985e-16
covariance condition number2.6908734572
图 1:Cholesky预白化与加权残差的固定参数数值验证图 1:Cholesky预白化与加权残差的固定参数数值验证

图 1 Cholesky预白化与加权残差的固定参数数值验证

表中数值和图中曲线由 MATLAB 实际运行得到,随机种子为 20261099;运行版本与完整结果另存为独立文件。

05
数字实现的边界

SystemVerilog实现固定L为[2,0;1,2]的二阶三角前代整数子核;二除法采用算术右移向负无穷截断,通用Cholesky分解在软件中完成。

端口为16位有符号码,内部64位,同步复位,valid空拍保持状态;逐有效输入输出。自检覆盖多组数据、空拍、边界和复位,仅验证所述整数子核,不代表完整算法的硬件验证。


独立自检程序已在 Icarus Verilog 13.0 中实际运行并通过。该结果不包含器件综合、静态时序分析或板级测试。

06
适用范围

用于已知相关噪声下的参数拟合、统计距离计算和多通道噪声尺度统一。实际求解宜使用三角回代而非构造显式逆矩阵。

07
工程上需要注意

半正定或奇异协方差需要降秩处理,不能直接普通Cholesky。

协方差标定误差会留下白化残差相关。

有限精度实现必须区分输入量化、内部舍入和最终结果格式,不能仅依据浮点曲线估计硬件误差。

Cholesky预白化把逆协方差权重变成普通欧氏度量,同时要求数据和模型使用同一三角变换。

内容依据:每日精学第 180 课《Cholesky预白化与加权残差》。图表沿用原课固定参数数值结果,属于数值验证,不代表设备实测。

阅读7
分享
写评论...