概率论

量子力学……确实有很多结论，但并没有让我们更接近老家伙的秘密。无论如何，我确信他不掷骰子。

– 阿尔伯特·爱因斯坦

爱因斯坦先生卓越的成就使其成为智慧的代名词，但在这点上他却错了。不确定性原理告诉我们，微观粒子的位置与动量不可同时被确定。事实上，在宏观的现实世界当中也几乎没有完全确定的事情。用数学语言去刻画这些随机事件，构成了我们今天的概率论。

由于本文涉及到了部分专有名词，在进入正文之前，让我们先看一个例子以对这些专有名词产生一个直觉。

掷骰子

对于六面普通骰子，我们将其投掷之后正面向上的点数称为随机变量\(X\)；它的取值范围称为样本空间\(\Omega\)即\(\{1, 2, 3, 4, 5, 6\}\)。若该骰子质地均一，则一次投掷后\(X\)取任意值的概率均为\(1/6\)；其期望为\(\sum_{n=1}^{6} n / 6 = 3.5\)；其方差为\(\sum_{n=1}^{6} (n-3.5)^2 / 6=35/12\)；其标准差为\(\sqrt{35/12} = \sqrt{105}/6\)。

概率

一个随机事件的概率是一个介于0与1之间的实数，是对随机事件发生之可能性的度量。

对于某个随机事件，若其概率为0意味着这个事件不可能发生（不可能事件），若其概率为1意味着这个事件必然发生（必然事件）。

随机变量

对于概率空间\((\Omega, \mathcal{F}, P)\)，对于任意实数\(x\)与基本事件\(w\)，都有\({x \in \Omega: X(\omega) \leq x} \in \mathcal{F}\)，则我们将\(X(w)\)称之为随机变量。

随机变量是一个函数，它用数字来表示一个可能出现的事件。

\(X\)为可测集\(S\subseteq E\)上的某个值的概率为

\({\mathrm{P}(X \in S) = \mathrm{P}(\{\omega \in \Omega \mid X(\omega) \in S\})}{\mathrm{P}(X \in S) = \mathrm{P}(\{\omega \in \Omega \mid X(\omega )\in S\})}\)

离散随机变量

对于随机变量\(X\)，若存在非负函数\(f(x)\)和\(F(X)\)，使得\(P(X = x) = f(x)\)，\(P(X < x) = F(x)\)，则称\(X\)是一个离散随机变量。

离散随机变量的取值范围是有限或者可列的。

在本文一开始的掷骰子例子中的随机变量即是一个离散随机变量。

连续随机变量

对于随机变量\(X\)，若存在非负函数\(f(x)\)和\(F(X)\)，使得\(P(a \leq X \leq b) = \int_{a}^{b} f(x) dx\)，\(P(X<x) = F(x)\)，则称\(X\)是一个连续随机变量。

连续随机变量的取值范围是无限或者不可列的。

举例来说，肯德基出品的吮指原味鸡的重量即是不可列的，因此其是一个连续随机变量。

期望

概率（或密度）为权重的加权平均值

\(\mathrm{E}[X] = \sum_{x \in X} x \cdot P(x)\)

一个随机变量的期望刻画的是这个随机变量的概率分布的“中心”。

简而言之，当有无穷多来自同一个概率分布的独立样本时，它们的平均值就是期望。

方差

方差是一个随机变量与它的期望之间的差的平方的加权平均值

\(\mathrm{Var}(X) = \mathrm{E}[(X-\mathrm{E}[X])^2]\)

一个随机变量的方差刻画的是这个随机变量的概率分布的“离散度”，也即该变量与其期望值的距离。

标准差

标准差是方差的算数平方根

\(\sigma = \sqrt{\mathrm{Var}(X)}\)