每日精学 159|样本方差的Bessel校正

2026-09-25

← 技术专题 · 每日精学目录

雷达 · 通信 · 电子战 / 基础精学 159

从同一组样本估计均值会消耗一个自由度。中心平方和除以样本数产生负偏差,除以样本数减一可恢复总体方差的无偏性。

实际记录只包含有限个采样值。由记录计算得到的数值与总体参数并不相同:前者受记录长度、噪声、边界约定及运算精度影响,后者属于给定模型的属性。建立可复核结论需要先固定输入含义、统计假设和归一化方式,再比较可计算量与理论量。

01
模型与符号

实值独立同分布样本,有限二阶矩且记录长度大于一;分布公式额外要求高斯。

S:中心平方和(幅度平方)

s2:无偏样本方差(幅度平方)

N−1:残差自由度(无量纲)

02
从模型到公式

中心平方和

每个残差围绕同一记录均值计算。

S=\sum_n(x_n-\bar x)^2

平方和恒等式

插入总体均值,交叉项因残差和为零而消失。

S=\sum_n(x_n-\mu)^2-N(\bar x-\mu)^2

期望损失

第二项的期望恰好是一份总体方差。

\mathrm E S=N\sigma^2-N\frac{\sigma^2}{N}=(N-1)\sigma^2

分母校正

两种分母对应不同偏差。

\mathrm E\frac SN=\frac{N-1}{N}\sigma^2,\quad s^2=\frac S{N-1},\quad\mathrm E s^2=\sigma^2

高斯自由度

均值方向与其正交残差子空间分离。

\frac{(N-1)s^2}{\sigma^2}\sim\chi^2_{N-1}

方差估计波动

利用卡方分布的方差可量化小记录的不稳定性。

\operatorname{var}(s^2)=\frac{2\sigma^4}{N-1}

自由度损失的投影解释

去除样本均值等价于应用投影矩阵

P=I-\boldsymbol1\boldsymbol1^{\mathrm T}/N

它满足 P2=P,并且

\operatorname{tr}(P)=N-1.

对独立同方差零均值扰动

\boldsymbol e

中心平方和的期望为

\mathrm E[\boldsymbol e^{\mathrm T}P\boldsymbol e] =\operatorname{tr}(P\sigma^2I)=(N-1)\sigma^2.

分母从 N 改为 N−1 因而来自估计均值消耗一个独立方向,而不是经验放大。

若同时拟合更多独立参数,剩余秩会进一步变化;若噪声相关或异方差,期望变为 tr(PΣ),简单的 Bessel 校正不再普遍保证无偏。


03
物理含义

样本残差之和必须为零,因此最后一个残差受其余残差限制。这个约束解释了少一个自由度,也说明无偏校正只修复期望,并不消除方差估计本身的随机波动。

04
固定参数算例

对长度4、8、32、128的高斯记录重复6000次,比较两种分母的均值及无偏方差估计的理论方差,验证中心平方和恒等式。数值脚本使用固定随机种子;随机实验的判据采用有限容差,代数关系的判据采用浮点残差。图中同时展示参数变化趋势与对应误差,关键数值写入独立结果文件。

固定参数数值验证结果
量数值
repetitions6000
真实方差4
N4 biased mean2.99289091008
N4 unbiased mean3.99052121343
N4 estimator variance10.8031039933
N4 theory estimator var10.6666666667
sum square identity error3.41060513165e-13
图 1:样本方差的Bessel校正的固定参数数值验证图 1:样本方差的Bessel校正的固定参数数值验证

图 1 样本方差的Bessel校正的固定参数数值验证

表中数值和图中曲线由 MATLAB 实际运行得到,随机种子为 20261078;运行版本与完整结果另存为独立文件。

05
数字实现的边界

SystemVerilog实现原始和、平方和与计数累加,中心化差值及Bessel分母在软件中计算。端口为16位有符号码,内部64位,同步复位,valid空拍保持状态;

按外部首尾标志进行块累加并在块尾输出。自检覆盖多组数据、空拍、边界和复位,仅验证所述整数子核,不代表完整算法的硬件验证。

独立自检程序已在 Icarus Verilog 13.0 中实际运行并通过。该结果不包含器件综合、静态时序分析或板级测试。

06
适用范围

用于噪声功率测量、蒙特卡洛结果汇总和误差条估计。实际软件接口常在N与N减一间提供选项,记录参数比仅注明调用函数更有可复核性。

07
工程上需要注意

相关样本不满足上述独立自由度计算。

大均值小方差时,直接两大数相减会丧失有效位。

有限精度实现必须区分输入量化、内部舍入和最终结果格式,不能仅依据浮点曲线估计硬件误差。

Bessel校正源于均值估计引入的残差约束,适用于独立有限方差样本,而精确卡方结论依赖高斯假设。

内容依据:每日精学第 159 课《样本方差的Bessel校正》。图表沿用原课固定参数数值结果,属于数值验证,不代表设备实测。

阅读7
分享
写评论...