Knowledge Archive
Concept · 科学

大数定律

科学 2026-04-19 · 2 min read · 3 backlinks
概率论数学

大数定律

定义

大数定律(Law of Large Numbers,LLN)是概率论的核心定理之一:随着独立试验次数趋于无穷,样本均值会以概率1收敛到总体期望值。形式化地,若 $X_1, X_2, ...$ 是独立同分布随机变量,期望为 $\mu$,方差有限,则:

$$\bar{X}_n = \frac{1}{n}\sum_{i=1}^{n} X_i \xrightarrow{P} \mu \quad \text{当} \quad n \to \infty$$

详细说明

Bernoulli 的贡献(1713)

Jacob Bernoulli 是第一个严格证明大数定律的数学家。他证明在独立伯努利试验中(如抛硬币),随着试验次数增加,观察到的频率越来越接近理论概率。这是概率论作为一门严格数学学科的开端。

独立性的争论

200年来,数学家普遍认为大数定律需要一个关键前提:事件必须独立。如果事件之间存在依赖关系(如前一个结果影响后一个),则平均结果不会收敛到期望值。

Nekrasov 利用这一点论证:社会统计数据(如结婚率、犯罪率)遵循大数定律,因此底层的人类决策必定是独立的——而独立决策即是"自由意志"的体现。

Markov 的反驳

Andrei Markov 证明这是错误的。Markov 分析《叶甫盖尼·奥涅金》的字母序列,发现字母出现存在明显依赖(辅音后更可能出现元音,元音后更可能出现辅音),但整体频率依然收敛——系统依然服从大数定律。这说明依赖性不等于非概率性

Markov 的证明:即使在非独立系统中,只要满足特定结构(马尔可夫链),系统依然可以收敛。独立不是大数定律的必要条件,Nekrasov 用大数定律为"自由意志"辩护的做法在数学上是站不住脚的。

与其他概念的关系

  • 马尔可夫链:Markov 用来证明"依赖系统也可以收敛"的工具
  • 蒙特卡洛方法:基于大数定律——大量随机抽样的平均值趋近期望值
  • PageRank:PageRank 中随机网民访问各页面的长期分布也是一种大数定律的体现

来源