Probability Course in 2019 Spring

随机事件与概率

随机事件及其运算

随机试验与随机事件

  • 随机现象：非确定性现象
  • 随机试验：$E$：对随机现象的的一次观测
  • 样本空间：$\varOmega$：所有可能结果的集合
  • 基本事件或样本点：$e$：样本空间的元素, 即$E$的每个可能结果
  • 随机事件：$A,B,C$等：样本空间$\varOmega$的子集合, 简称事件

事件间的关系及运算

  1. 事件间的关系
    1. 包含关系
      如果事件$A$发生必然导致事件$B$发生, 则事件$B$包含事件$A$, 记$B\supset A$
    2. 互不相容关系
      若事件$A$与$B$不可能同时发生, 则称$A,B$互不相容（或互斥）, 此时$A$与$B$没有共同的样本点
    3. 相等关系
      若$B\supset A$, 且$A\supset B$, 则称$A$与$B$相等, 记为$A=B$, 两者样本点完全相同
  2. 事件的运算
    1. 事件的并
      事件$A$与$B$至少发生一个所构成的事件成为$A$与$B$的并, 记为$A\cup B$, 其样本点由$A$与$B$的样本点合并而成
      事件$A_1,A_2,\cdots,A_n$至少发生一个的事件称为$A_1,A_2,\cdots,A_n$的并, 记为$A_1\cup A_2\cup\cdots\cup A_n$或$\bigcup_{i=1}^nA_i$
    2. 事件的交
      事件$A$与$B$同时发生的事件成为$A$与$B$的交, 记为$A\cap B$或$AB$, 其样本点由$A$与$B$共同的样本点而成
      事件$A_1,A_2,\cdots,A_n$同时发生的事件称为$A_1,A_2,\cdots,A_n$的交, 记为$A_1\cap A_2\cap\cdots\cap A_n$或$\bigcap_{i=1}^nA_i$或$A_1A_2\cdots A_n$
    3. 事件的差
      事件$A$发生而$B$不发生的事件称为$A$与$B$的差, 记为$A-B$, 其样本点由$A$中除去$B$的样本点组成
    4. 对立事件
      $A$不发生的事件称为$A$的对立事件, 记为$\bar{A}$, 其样本点由$\varOmega$中除$A$以外的样本点组成
    5. 注意如下等式
      1. $A=(A-B)\cup AB$
      2. $A\cup B = A\cup (B-A)=(A-B)\cup AB \cup (B-A)$
      3. $A-B=A-AB=A\bar{B}$
      4. $\bar{A}=\varOmega-A,A\cup\bar{A}=\varOmega$
    6. 满足如下运算律
      1. 交换律 $A\cup B=b\cup A, A\cap B=B\cap A$
      2. 结合律 $(A\cup B)\cup C=A\cup(B\cup C),(A\cap B)\cap C=A\cap(B\cap C)$
      3. 分配律 $A\cup(B\cap C)=(A\cup B)\cap(A\cup C),A\cap(B\cup C)=(A\cap B)\cup(A\cap C)$
      4. 德摩根定律 $\overline{A\cup B}=\bar{A}\cap\bar{B},\overline{A\cap B}=\bar{A}\cup\bar{B}$

事件的概率及性质

频率与概率

  • 频率：设随机事件$A$在$n$次重复实验中共出现$n_A$次, 将其比值$n_A/n$定义为$A$发生的频率, 记为$f_n(A)$, 即
    $$f_n(A)=\frac{n_A}{n}$$
  • 频率的性质
    1. $0\leq f_n(A)\leq 1$
    2. $f_n(\varOmega)=1$
    3. 若$A_1, A_2,\cdots, A_n$互不相容, 则
      $$f_n(\bigcup_{i=1}^nA_i)=\sum_{i=1}^nf_n(A_i)$$
  • 频率的稳定性与统计概率
    随试验次数的增加, 事件的频率将在某个数值附近稳定地摆动, 此数值定义为$A$发生的概率, 称为统计概率

概率的定义及性质

  • 定义1.1
    设$E$是随机实验, $\varOmega$为其样本空间。对于$E$的每一个随机事件$A$, 对应一个实数$P(A)$, 如果几何函数$P(\cdot)$满足：
    1. 非负性 $P(A)\geq 0$
    2. 规范性 $P(\varOmega)=1$
    3. 可列可加性 若$A_1, A_2,\cdots, A_n,\cdots$两两互不相容, 则
      $$P(\bigcup_{i=1}^\infty A_i)=\sum_{i=1}^\infty P(A_i)$$
      则称$P(A)$为事件$A$的概率
  • 概率的性质
    1. $P(\varPhi)=0$
    2. 若$A_1, A_2,\cdots, A_n$为$n$个两两互不相容事件, 则有
      $$P(\bigcup_{i=1}^nA_i)=\sum_{i=1}^nP(A_i)$$
    3. 对任意两事件$A,B$有
      $$P(A-B)=P(A)-P(AB)$$
    4. 对任意两事件$A,B$有加法定理
      $$P(A\cup B)=P(A)+P(B)-P(A\cap B)$$
      利用归纳法推广：
      $$P(\bigcup_{i=1}^nA_i)=\sum_{i=1}^nP(A_i)-\sum_{1\leq i\leq j\leq n}P(A_iA_j)+\sum_{1\leq i\leq j\leq k\leq n}P(A_iA_jA_k)+\cdots+(-1)^{n-1}P(A_1A_2\cdots A_n)$$
    5. 对任意事件$A$, $P(\bar{A})=1-P(A)$

等可能概型（古典概型）

  • 古典概型
    1. 样本空间$\varOmega$的元素个数为有限个
    2. 样本空间中每个基本事件（基本点）发生的可能性相同
  • 计算
    $$P(A)=\frac{m}{n}=\frac{A包含的样本点数}{样本点总数}$$
  • 不放回抽样
    $N$件产品, $M$件次品, 取出$n$件, 有$k$件次品
    $$p = \frac{C_m^kC_{N-M}^{n-k}}{C_N^n}$$
  • 有放回抽样
    $N$件产品, $M$件次品, 取出$n$件, 有$k$件次品
    $$p=\frac{C_n^kM^k(N-M)^{n-k}}{N^n}=C_n^k(\frac{M}{N})^k(1-\frac{M}{N})^{n-k}$$

几何概率

  • 定义1.2
    若随机试验的样本空间对应一个度量有限的几何区域$S$, 每一基本事件与$S$内任意点一一对应, 则任一随机事件对应$n$中的某一子区域$D$.若事件的概率只和对应的区域$D$的度量成正比, 与的形状及$D$在$S$中的位置无关。发生的概率定义为
    $$P(A)=\frac{m(A)}{n(\Omega)}=\frac{A对应区域D的度量}{\Omega对应区域S的度量}$$

条件概率

条件概率

  • 定义1.3
    设$A$, $B$为两个随机事件, 且$P(B)>0$, 称
    $$P(A|B)=\frac{P(AB)}{P(B)}$$

    为在事件$B$发生的条件下, 事件$A$发生的概率, 概率的性质仍适用

乘法公式

  • 乘法公式
    由条件概率公式可以得到, 当$P(B)>0$时,
    $P(AB)=P(B)P(A|B)$
    $P(AB)=P(A)P(B|A)$

    推广：设$A_1,A_2,\cdots,A_n$为$n$个随机事件, 当$P(A_1,A_2,\cdots,A_n)>0$时,
    $P(A_1A_2\cdots A_n)=P(A_1)P(A_2|A_1)P(A_3|A_1A_2)\cdots P(A_n|A_1A_2\cdots A_{n-1})$

全概率公式与贝叶斯公式

  • 定义1.4
    若$n$个事件$A_1,A_2,\cdots,A_n$满足
    1. $A_1,A-2,\cdots,A_n$两两互不相容
    2. $A_1\cup A_2\cup\cdots\cup A_n=\varOmega$
      则称$A_1,A_2,\cdots,A_n$为样本空间$\varOmega$的一个划分或完备事件组
      若事件$A_1,A_2,\cdots,A_n$为完备事件组, 则在随机试验的每次试验中, $A_1,A_2,\cdots,A_n$必发生且仅发生一个
  • 定理1.1（全概率公式）
    设$A_1,A_2,\cdots,A_n$为完备事件组, 则对事件$B$有
    $$P(B)=\sum_{k=1}^nP(A_k)P(B|A_k)$$
  • 定理1.2（贝叶斯公式）
    设$A_1,A_2,\cdots,A_n$为完备事件组, 则对事件$B$有
    $$P(A_i|B)=\frac{P(A_i)P(B|A_i)}{\sum_{k=1}^nP(A_k)P(B|A_k)}$$

独立性

独立性定义

  • 定义1.5
    设$A$, $B$是两个随机事件, 若满足等式
    $$P(AB)=P(A)P(B)$$
    则称事件$A$, $B$相互独立, 简称独立
  • 定理1.3
    若随机事件$A$与$B$相互独立, 则$\bar{A}$与$B$, $A$与$\bar{B}$, $\bar{A}$与$\bar{B}$也相互独立

多个事件的独立性

  • 定理1.4（分组独立性定理）
    设事件$A_1,A_2,\cdots,A_n$相互独立, 将其任意分为没有公共事件的$k$个组, 每个组任意做事件运算, 得到一个新事件, 则这$k$个新事件相互独立

  • $n$个事件独立性
    对$n$个事件$A_1,A_2,\cdots,A_n$, 如果下列等式成立
    $$\begin{cases}
    P(A_iA_j)=P(A_i)P(A_j) \\
    P(A_iA_jA_k)=P(A_i)P(A_j)P(A_k) \\
    \cdots \cdots \\
    P(A_{i_1}A_{i_2}\cdots A_{i_m})=P(A_{i_1})P(A_{i_2})\cdots P(A_{i_m})\\
    \cdots \cdots \\
    P(A_1A_2\cdots A_n) = P(A_1)P(A_2)\cdots P(A_n)
    \end{cases}$$
    则称事件$A_1,A_2,\cdots,A_n$相互独立

  • 小概率事件原理
    设随机试验中某事件$A$发生的概率为$p$, 无论$p$多么小, 只要不断重复独立地做$n$次实验, $A$迟早会发生的概率为1
    $$P(A_1\cup A_2 \cup\cdots A_n)=1-(1-p)^n\to 1$$

可靠性分析

设有$n$个独立工作的原件构成的系统, 第$i$个原件正常工作的事件记为$A_i$, 正常工作的概率$P(A_i)=p_i$, 系统正常工作的概率记为$B$

  1. 串联方式构成的系统
    $$P(B_1)=P(A_1A_2\cdots A_n)=P(A_1)P(A_2)\cdots P(A_n)=p_1p_2\cdots p_n$$
  2. 并联方式构成的系统
    $$P(B_2)=P(A_1\cup A_2\cup\cdots\cup A_n)=1-P(\bar{A_1}\bar{A_2}\cdots \bar{A_n})=1-\prod_{i=1}^n(1-p_i)$$

独立重复试验模型

  • $n$重伯努利试验
    1. 每次实验只有两个结果, $A$与$\bar{A}$, 且$P(A)=p$, $P(\bar{A})=1-p=q$
    2. 试验进行$n$次, 每次试验结果相互独立
  • 定理1.5
    $n$重伯努利试验中, $A$发生$k$次的概率记为$P_n(k)$
    $$P_n(k)=C_n^kp^kq^{n-k},(k=0,1,\cdots,n;q=1-p)$$
    注意$\sum_{k=0}^nP_n(k)=\sum_{k=0}^nC_n^kp^kq^{n-k}=(p+q)^n=1$
  • 定理1.6（泊松定理）
    设$n$为正整数, $\lambda=np_n$为常数, 则对任意正整数$k$有
    $$\lim_{n\to\infty}C_n^kp_n^k(1-p_n)^{n-k}=\frac{\lambda^k}{k!}e^{-\lambda}$$
    用于在$n$较大, $p$较小时进行近似计算