每日精学 168｜协方差特征值的MDL阶数选择

2026-09-25

← 技术专题 · 每日精学目录

雷达 · 通信 · 电子战　/　基础精学 168

MDL阶数选择把噪声特征值的平坦程度与模型参数数量同时计入，避免仅凭拟合改善而持续增加信号子空间维数。

实际记录只包含有限个采样值。由记录计算得到的数值与总体参数并不相同：前者受记录长度、噪声、边界约定及运算精度影响，后者属于给定模型的属性。建立可复核结论需要先固定输入含义、统计假设和归一化方式，再比较可计算量与理论量。

01
模型与符号

独立复高斯快拍；加性空间白噪声；维数M小于快拍数；协方差特征值严格正且按降序排列。

M：观测维数（通道）

L：独立快拍数（快拍）

k：候选信号子空间阶数（无量纲）

g_k,a_k：尾部特征值的几何及算术平均（功率）

02
从模型到公式

样本协方差

估计矩阵后对特征值降序排列。

$\widehat{\boldsymbol R}=L^{-1}\sum_{\ell=1}^{L}\boldsymbol x_\ell\boldsymbol x_\ell^{\mathrm H},\quad\lambda_1\geq\cdots\geq\lambda_M>0$

候选噪声子空间

候选阶数k留下M减k个噪声特征值。

$a_k=\frac1{M-k}\sum_{i=k+1}^M\lambda_i,\quad g_k=\left(\prod_{i=k+1}^M\lambda_i\right)^{1/(M-k)}$

平坦度比值

算术几何均值不等式使该比值不超过一。

$0<g_k/a_k\leq1$

似然失配项

噪声特征值越不相等，负对数比值越大。

$D_k=-L(M-k)\log(g_k/a_k)$

复杂度惩罚

复数模型阶数的参数惩罚随k增大。

$\operatorname{MDL}(k)=D_k+\frac12k(2M-k)\log L$

阶数与稳定计算

对几何平均使用对数求和，避免连乘下溢。

$\widehat k=\arg\min_{0\leq k<M}\operatorname{MDL}(k),\quad\log g_k=\frac1{M-k}\sum_{i=k+1}^M\log\lambda_i$

噪声特征值的几何均值比

候选阶数 k 留下 M−k 个噪声特征值。令几何均值为 g_k、算术均值为 a_k，由均值不等式有

$0<g_k/a_k\le1.$

似然代价中的 −ln(g_k/a_k) 因而非负，且所有剩余特征值相等时为零。

为避免连乘下溢，可在对数域计算

$\ln g_k=\frac1{M-k}\sum_{i=k+1}^{M}\ln\lambda_i.$

当样本协方差奇异时会出现零特征值，简单取对数失效；

加小常数虽然可计算，却改变了模型与阶数准则。MDL 的惩罚和似然必须采用一致的样本数及实、复数据约定，小样本相关数据不能只靠数值正则化恢复渐近理论保证。

03
物理含义

不足的阶数把较大信号特征值混入噪声尾部，导致尾部不平坦；过大的阶数虽降低失配，却增加复杂度惩罚。最小值是两者的折中，不应把单次选出的整数解释为绝对真实分量数。

04
固定参数算例

构造六维对角协方差、两个显著增大的特征值与2048快拍，计算全部候选MDL；检查纯等特征值模型选择零阶及共同功率缩放不改变分数。数值脚本使用固定随机种子；

随机实验的判据采用有限容差，代数关系的判据采用浮点残差。图中同时展示参数变化趋势与对应误差，关键数值写入独立结果文件。

固定参数数值验证结果

量	数值
channel dimension	6
snapshot count	2048
真实阶数	2
估计阶数	2
null exact order	0
scale invariance error	5.45696821064e-12
minimum MDL score	84.5060867479

图 1　协方差特征值的MDL阶数选择的固定参数数值验证

表中数值和图中曲线由 MATLAB 实际运行得到，随机种子为 20261087；运行版本与完整结果另存为独立文件。

05
数字实现的边界

SystemVerilog实现已计算特征值及其外部定点对数的尾部求和；特征分解、对数及候选分数不在子核内。端口为16位有符号码，内部64位，同步复位，valid空拍保持状态；

按外部首尾标志进行块累加并在块尾输出。自检覆盖多组数据、空拍、边界和复位，仅验证所述整数子核，不代表完整算法的硬件验证。

独立自检程序已在 Icarus Verilog 13.0 中实际运行并通过。该结果不包含器件综合、静态时序分析或板级测试。

06
适用范围

用于多通道随机数据的低秩维数诊断和子空间方法参数检查。使用前须验证白噪声模型，必要时先预白化再使用该准则。

07
工程上需要注意

有色噪声会把噪声谱结构误认为额外信号维数。

低信噪比、小样本或相关快拍可能使阶数偏低或不稳定。

有限精度实现必须区分输入量化、内部舍入和最终结果格式，不能仅依据浮点曲线估计硬件误差。

MDL以噪声尾部的几何算术均值比衡量失配，再以模型复杂度抑制过拟合。

内容依据：每日精学第 168 课《协方差特征值的MDL阶数选择》。图表沿用原课固定参数数值结果，属于数值验证，不代表设备实测。

阅读7

写评论...

每日精学 168｜协方差特征值的MDL阶数选择

01模型与符号

02从模型到公式