大数律(卷名：数学)
laws of large number
概率论中讨论随机变量序列的算术平均值向常数收敛的定律。是概率论与数理统计学的基本定律之一。
以重复投掷一枚硬币的随机试验为例，记n次投币试验中出现正面的次数为vn。对于不同的n次试验，vn可能不同，但当n越来越大时，出现正面的频率 vn/n 将大体上逐渐接近于 1/2。又如称某一物体的重量，假如衡器不存在系统偏差，由于衡器的精度等各种因素的影响，对同一物体重复称量多次，可能得到多个不同的重量数值X1，X2，…，Xn。但若取它们的算术平均值
，则随n的增大，一般来说
也将逐渐接近于物体的真实重量。历史上，雅各布第一·伯努利(1652～1705)在《推测术》(1713年出版)中首先从数学上论述了这一现象。他证明了:若vn是n次独立重复试验中事件A出现的次数， p是事件A的概率，则对任一ε>0，有
，即
依概率收敛于p。这一结论表明，对任意小的正数ε，只要n充分大，频率与概率 p发生大于ε的偏离的可能性就很小，即大多数试验只使与p发生较小的偏离。这是历史上第一个严格说明频率稳定性的定律，称为伯努利大数律。大数律这个名称是S.-D.泊松于 1837年给出的。大数律表明，对同一随机变量X的n次独立观察值X1，X2，…，Xn的平均，将随n的增大而收敛于它的数学期望EX。在数理统计中，就依据这一点而取多次重复观测的算术平均作为EX的较精确的估计。特别可以利用频率的稳定性来对事件的概率和随机变量的分布进行估计，还可以利用样本矩向总体矩的收敛，取样本矩作为总体矩的近似而获得参数估计的矩方法（见点估计）。由于随机变量序列
向常数的收敛可以有多种不同的方式，按其收敛为依概率收敛、以概率1收敛或均方收敛（见概率论中的收敛），分别有弱大数律、强大数律或均方大数律。弱大数律又通称为大数律。根据随机变量序列各种收敛之间的关系，由强大数律或均方大数律可以推出弱大数律。大数律中最重要的一类是讨论独立试验序列的，常见的除了伯努利大数律外，还有下列著名的大数律：
辛钦大数律(1929) 若{Xn}为独立同分布随机变量序列，EXn=μ存在有限，则对任何ε>0，有
波莱尔强大数律(1909) 设vn是n次独立重复试验中某事件A出现的次数，P(A)=p，则以概率1成立
。(F.-É.-J.-) É.波莱尔最初只证明了
的情形，以后才证明了对一般的p也有同样的结果。柯尔莫哥洛夫强大数律 若{Xn}为独立同分布随机变量序列，EXn存在，则以概率1成立
。大数律中涉及到的随机变量序列{Xn}也可以不是相互独立的。特别对于平稳序列，塣可看为序列按时间的平均，而 EXn=μ是同一时刻不同样本的统计平均。这时，
→μ表明{Xn}随时间的增长遍历了它的各种可能状态，因而使“时间平均”向“统计平均”收敛。这又称为平稳序列的遍历性，它也是一种大数律。在平稳过程理论中，Α.Я.辛钦和G.D.伯克霍夫分别建立了向μ均方收敛和以概率1收敛的遍历定理。不仅有算术平均向常数收敛的大数律，更一般地，对随机变量序列{Xn}，记
，若存在常数序列{αn}及趋于无穷的{bn}，当n→
时使
依概率或以概率1收敛于零，则分别称{Yn}是依概率稳定或以概率 1稳定的。这是大数律的一种推广形式。由于Yn依概率收敛于零与Yn的分布向集中于零的退化分布弱收敛是等价的，因此弱大数律就是讨论Yn的分布向退化分布弱收敛的极限定理（见中心极限定理），可作为普遍极限定理的特例来处理。切比雪夫不等式 若随机变量的数学期望、方差分别为EX及varX，则对任何α>0，成立
。这一不等式是证明弱大数律的重要工具。它在I.－J.比安内梅1853年的论文中已有类似的表述，但直到1867年才由∏.Л.切比雪夫明确叙述和论证。它对随机变量的分布并无特殊要求，仅利用X的方差来对X的取值与EX发生较大偏离的概率作出估计，因而有较广泛的适用性。它还有种种推广形式。若 X为一随机变量，ƒ（x）为一非负非降函数，则 
，其中Eƒ（X）表示ƒ（X）的数学期望。特别当 ƒ(x)＝xλ，x≥0，λ>0，则有
。后者又称为马尔可夫不等式。柯尔莫哥洛夫不等式 设｛Xk，1≤k≤n｝是相互独立的随机变量，它们的数学期望、方差分别为 EXk＝0，
，又
，则对任何α>0，成立下列不等式：
若Xk还是有界的，即|Xk|≤c以概率1成立，则还有
这两个不等式是由Α.Η.柯尔莫哥洛夫在1928年建立的，它是证明强大数律的重要工具。此外，利用前者可以推出，对独立的随机变量序列{Xn}，若其方差级数
，则随机变量级数
以概率1收敛;利用后者可以推出，若有界独立随机变量序列的级数
以概率1收敛，则其方差级数
和均值级数
都是收敛的。这一不等式也有各种不同形式的推广。例如下鞅的极值不等式:设{Yn}为一离散时间下鞅（见鞅），α>0，则有
此外，若{Xk，1≤k≤n}为相互独立的随机变量，
；在不要求Xk存在数学期望与方差的情形，仍成立如下的莱维不等式：
式中m(Sk-Sn)表示随机变量Sk-Sn的中位数（见概率分布）。这些不等式在证明随机变量序列以概率 1收敛时，都有重要的应用。波莱尔-坎泰利引理和0-1律 设{An，n≥1}为一事件序列，则由
可以推出{An}中有无穷个同时发生的概率为0。这一结论称为波莱尔－坎泰利引理。若进一步设{An}为相互独立的事件序列，则更有下列的波莱尔0－1律或0－1准则：按照级数
收敛或发散，{An}中有无穷个同时发生的概率分别为0或1。这是证明各种以概率1成立的性质的有力工具。又若用σ(Xk，k≥n)表示由随机变量序列{Xk，k≥n}生成的事件σ-域，
那么，柯尔莫哥洛夫0-1律断言：对于独立随机变量序列{Xn，n≥1}，β*(X)中任一事件的概率必为0或1。利用它可以断定，事件
及
的概率为0或1；还可以推出
以概率1等于某个常值。重对数律 设｛Xn｝是独立同分布的随机变量序列，
且P(Xn=1)=p， P(Xn=0)=1-p。强大数律断言，
即对任何ε>0，不等式
除有限个n外成立的概率为1。辛钦于1924年进一步证明了如下的重对数律：
由此可以推出，对任何ε >0，不等式
除有限个 n外成立的概率为 1。这个结果用重对数函数loglogn描述了算术平均值向数学期望收敛的速度，它比通常的强大数律要精确。对较一般的情形，柯尔莫哥洛夫于1929年证明了:若｛Xn｝为独立随机变量序列，其数学期望、方差分别为EXn=0，
，又记
且对某一趋于0的常数列{Xn}，以概率1成立
则有
P.哈特曼和A.温特纳于1941年更证明了，对独立同分布的随机变量序列，上式成立的充分必要条件是Xn的方差有限。此后，对更一般的独立随机变量序列、鞅差序列(即其部分和为离散时间鞅)、弱相依序列等，都在一定条件下得到了类似的结果。
重对数律的证明采用了较高深的分析技巧，因而它是概率论极限理论中比较深入和精密的定理。
参考书目
Y.S.Chow and H.Teicher，Probability Theory，Springer-Verlag，New York，1978.