概率论研究那些受到随机事件（random events）影响的现象，它们具有很大的不确定性。
基础定义
讨论概率时，最重要的就是不确定性的思想，我们需要引入一个足够宽泛的、用于处理不确定性的概念。偶然性试验（chance experiment）或随机试验（random experiment）是产生不确定结果的过程。例如，扔硬币、测试机械使用寿命等都是随机实验。
定义：偶然性试验的样本空间（sample space）Ω 是实施试验所可能产生结果的集合。Ω 里的元素称为该试验的样本点（sample point）。Ω 的子集称为事件（event）。
只包含一个样本点的事件称为基本事件（elementary event），包含多个样本点的事件称为复合事件（compound event）。
样本空间的划分
翻硬币有 2 个样本点，摇骰子有 6 个样本点，像这种有限的样本空间，称为有限样本空间（finite sample space）。
翻一枚硬币，一直翻到背面为止。这样的随机试验的样本空间是：$Omega={T, H T, H H T, H H H T, ldots}$。这种样本空间是无限的，但是同时又是可以枚举的，因此称为可数无限样本空间（countably infinite sample space）。
检测灯泡的使用寿命，这样的随机试验的样本空间是：$Omega={t: t geq 0}=[0, infty)$，这种样本空间是不可数的集合，通常称为连续样本空间（continuous sample space）。处理这种样本空间的技巧，与有限样本空间和可数无限样本空间的技巧，有很大的不同。通常又把有限样本空间和可数无限样本空间，统称为离散样本空间（discrete sample space）。
事件的运算
通过定义样本空间这样的集合，以及定义事件作为样本空间的子集。因此，集合论里面的运算自然衍生到了事件的运算。
首先定义事件的发生（occured）：对于事件 A∈Ω ，当进行试验时，我们观察到的结果（output）ω∈Ω ，同时也满足 ω∈A 的条件，那么就称事件 A 发生了。
根据这样的定义，那么对于两个事件 A 和 B，满足 A⊆B，那么如果 A 发生，必然有 B 发生。
如果 A⊆B 且 B⊆A，显然根据集合论，A=B。此时，如果事件 A 发生，那么事件 B 发生；反之亦然。由此引入事件等价的定义。
定义：当事件 A 发生，必然有事件 B 发生；反之亦然。那么称 A 和 B 是等价的（equivalent），写作 A=B。
集合论里面全集和空集的概念，对应到事件中，就称为必然事件（certain event）和不可能事件（impossible event）。
定义：事件 A 和 B 的并（union）定义为 A∪B，其含义是 A 或 B 发生。
定义：事件 A 和 B 的交（intersection）定义为 A∩B 或 AB，其含义是 A 且 B 发生。
多个事件的交和并，同样用集合论的语言来表示：
$$
igcup_{i=1}^{infty} A_{i} ext { and } igcap_{i=1}^{infty} A_{i}=prod_{i=1}^{infty} A_{i}
$$
定义：已知在样本空间 Ω 上定义的事件 A 和 B，如果 A∪B=∅，那么称 A 和 B 互斥事件（disjoint or mutually exclusive events）。
对于多个事件 Ai，如果满足：
$$
A_{i} A_{j}=emptyset quad ext { for any } i
eq j(i, j=1,2, ldots, n)
$$
那么称事件 Ai 两两互斥（pairwise disjoint）。
定义：令 A 是样本空间上的事件。它的补集称为对立事件（complementary event），当且仅当 A 不发生时，A 的对立事件发生。A 的对立事件记作：$A^{prime}$ or $ar{A}$ or $A^{c}$。
定义：事件 A 与 B 的差（difference）指这样的事件，当该事件发生时，A 发生，而 B 不发生，记作 A-B。
于是有这样的关系：
$$
A^{prime}=Omega-A quad ext { and } quad A-B=A B^{prime}
$$
所有都是套用集合论上面而来的，以下是事件运算的性质：
- $A cup A=A quad A A=A$
- $A cup emptyset=A quad A emptyset=emptyset$
- $A cup Omega=Omega quad A Omega=A$
- $A cup B=B cup A quad A B=B A$
- $A cup(B cup C)=(A cup B) cup C quad A(B C)=(A B) C$
- $A cup(B C)=(A cup B)(A cup C) quad A(B cup C)=(A B) cup(A C)$
- $A cup A^{prime}=Omega quad A A^{prime}=emptyset$
- $left(A^{prime} ight)^{prime}=A$
- If $A subseteq B$ and $B subseteq C$, then $A subseteq C$
- If $A subseteq B$, then $B^{prime} subseteq A^{prime}$ and vice versa
- If $A subseteq B$, then $A B=A$ and $A cup B=B$.
De Morgan 定律：
$$
(A cup B)^{prime}=A^{prime} B^{prime}, quad(A B)^{prime}=A^{prime} cup B^{prime}
$$
参考
- Balakrishnan N, Koutras M V, Politis K G. Introduction to Probability: Models and Applications[M]. John Wiley & Sons, 2019.