核心概念与定义
27 项
定义
#B1
数学期望的定义 (绝对收敛条件的 必要性及含义)
\(
\begin{aligned}
&\text{设离散型随机变量 } X \text{ 的分布律为}\\
&\qquad
\begin{array}{c|cccccc}
X & x_1 & x_2 & \dots & x_k & \dots \\ \hline
P & p_1 & p_2 & \dots & p_k & \dots
\end{array}\\[8pt]
&\text{若级数 } \displaystyle \sum_{k=1}^{+\infty} |x_k|p_k \lt +\infty
\;(\text{即 } \sum_{k=1}^{+\infty} x_k p_k \text{ 绝对收敛}),\\
&\text{则定义}\\
&\qquad
E(X)=\displaystyle \sum_{k=1}^{+\infty} x_k p_k\\
&\text{为随机变量 } X \text{ 的数学期望,也称均值。} \\
&\text{设 } X \text{ 为连续型随机变量,其概率密度为 } f(x)。\\
&\text{若 } \int_{-\infty}^{+\infty} |x|\,f(x)\,dx \lt +\infty,\\
&\text{则称 } \int_{-\infty}^{+\infty} x f(x)\,dx\\
&\text{为随机变量 } X \text{ 的数学期望,亦称均值,记作 } E(X).
\end{aligned}
\)
定义
#B111
离散型
\[E(Y) = E[ g(X) ] = \sum_{k=1}^{+\infty} g(x_k) p_k.
\]
定义
#B112
连续型
\[E(Y) = E[ g(X) ] = \int_{-\infty}^{+\infty} g(x) f(x) dx.\]
定义
#B2
随机变量函数 数学期望的定义 (绝对收敛条件的 必要性及含义)
\[
\begin{aligned}
&\text{设 $X$ 为随机变量,$Y = g(X)$,其中 $g(x)$ 是一个确定函数。} \\
&\text{(1) 设 $X$ 为离散型随机变量,其分布律为 } P(X = x_k) = p_k, \ k = 1, 2, \ldots, \\
&\quad \text{若级数 } \sum_{k=1}^{+\infty} g(x_k) p_k \ \text{绝对收敛,则} \\
&\quad E(Y) = E[ g(X) ] = \sum_{k=1}^{+\infty} g(x_k) p_k. \\[6pt]
&\text{(2) 设 $X$ 为连续型随机变量,其概率密度为 $f(x)$,若积分} \\
&\quad \int_{-\infty}^{+\infty} g(x) f(x) \, dx \ \text{绝对收敛,则} \\
&\quad E(Y) = E[ g(X) ] = \int_{-\infty}^{+\infty} g(x) f(x) \, dx.
\end{aligned}
\]
定义
#B31
“线性”性质
\(
\begin{aligned}
&(i)\;\text{若 } X \text{ 满足 } E\bigl(|X|\bigr)\lt +\infty,\;C \text{ 为常数,则 } E(CX)=CE(X);\\[6pt]
&(ii)\;\text{若 } X,Y \text{ 任意且 } E(X),E(Y) \text{ 存在,则 } E(X+Y)=E(X)+E(Y).
\end{aligned}
\)
定义
#B32
相互独立随机变量乘积的期望等于期望的乘积
\(
\begin{aligned}
&\text{若 } X,Y \text{ 相互独立且 } E(X),E(Y) \text{ 存在,则 } E(XY)=E(X)E(Y).
\end{aligned}
\)
定义
#B41
0-1分布、二项分布、泊松分布、几何分布、指数分布、正态分布等的数学期望
\(
\begin{array}{|c|c|c|}
\hline
\text{分布} & \text{参数范围} & \text{数学期望 }E(X) \\ \hline
0\text{-}1\text{分布(Bernoulli)} & 0\lt p\lt 1 & p \\ \hline
\text{二项分布 }B(n,p) & n\ge 1,\;0\lt p\lt 1 & np \\ \hline
\text{泊松分布 }P(\lambda) & \lambda \gt 0 & \lambda \\ \hline
\text{几何分布 }G(p) & 0\lt p\lt 1 & \dfrac{1}{p} \\ \hline
\text{指数分布 }E(\lambda) & \lambda \gt 0 & \dfrac{1}{\lambda} \\ \hline
\text{正态分布 }N(\mu,\sigma^{2}) & \mu\in\mathbb R,\;\sigma\gt 0 & \mu \\ \hline
\end{array}
\)
定义
#C1
定义
\(
\begin{aligned}
&\text{设 } X \text{ 为随机变量,若 } E\bigl[\lvert X-E(X)\rvert^{2}\bigr] \text{ 存在,}\\
&\text{则称 } X \text{ 的方差为 } D(X) \text{ 或 } \operatorname{Var}(X),\text{即}\\[4pt]
&\qquad D(X)=E\bigl[(X-E(X))^{2}\bigr],\\[6pt]
&\text{并称 } \sigma_{X}=\sqrt{D(X)} \text{ 为 } X \text{ 的均方差或标准差。}
\end{aligned}
\)
定义
#C21
直接用定义计算
\(
\begin{aligned}
&\qquad\text{若 } X \text{ 为离散型随机变量,分布律 } P(X=x_i)=p_i,\; i=1,2,\dots,\;\text{则}\\
&\qquad D(X)=\sum_{i=1}^{+\infty} \bigl[x_i-E(X)\bigr]^{2}p_i;\\[8pt]
&\qquad\text{若 } X \text{ 为连续型随机变量,概率密度 } f(x),\;\text{则}\\
&\qquad D(X)=\int_{-\infty}^{+\infty} \bigl[x-E(X)\bigr]^{2} f(x)\,dx.
\end{aligned}
\)
定义
#C22
常用计算公式 E(X^2)-E^2(X)
\(
\begin{aligned}
&\qquad D(X)=E\bigl(X^{2}\bigr)-\bigl[E(X)\bigr]^{2}.
\end{aligned}
\)
定义
#C31
常数的方差为零
\(
\text{设 } C \text{ 为常数,则 } D(C)=0.
\)
定义
#C32
数乘
\(\text{设 } C \text{ 为常数,} X \text{ 方差存在,则 } D(CX)=C^{2}D(X).
\)
定义
#C331
相互独立的随机变量和(或差)的方差等于方差之和
\(\text{设 } X,Y \text{ 相互独立且方差存在,则 } D(X\pm Y)=D(X)+D(Y).\)
定义
#C34
方差为零的等价条件
\(
\text{设 } X \text{ 为随机变量,}\text{则 } D(X)=0 \text{ 的充要条件是存在常数 } C,\;\text{使 } P(X=C)=1,\;\text{其中 } C=E(X).
\)
定义
#C41
0-1分布、二项分布、泊松分布、几何分布、指数分布、正态分布等的方差
\(
\begin{array}{|c|c|c|}
\hline
\text{分布} & \text{参数范围} & \text{方差 }\operatorname{Var}(X) \\ \hline
0\text{-}1\text{分布(Bernoulli)} & 0\lt p\lt 1 & p(1-p) \\ \hline
\text{二项分布 }B(n,p) & n\ge 1,\;0\lt p\lt 1 & np(1-p) \\ \hline
\text{泊松分布 }P(\lambda) & \lambda>0 & \lambda \\ \hline
\text{几何分布 }G(p) & 0\lt p\lt 1 & \dfrac{1-p}{p^{2}} \\ \hline
\text{指数分布 }E(\lambda) & \lambda>0 & \dfrac{1}{\lambda^{2}} \\ \hline
\text{正态分布 }N(\mu,\sigma^{2}) & \mu\in\mathbb R,\;\sigma \gt 0 & \sigma^{2} \\ \hline
\end{array}
\)
定义
#D1
定义
\(
\begin{aligned}
&\text{若 } E\bigl[(X-E(X))(Y-E(Y))\bigr] \text{ 存在,}\\
&\text{则称其为随机变量 } X,Y \text{ 的协方差,记作 } \operatorname{cov}(X,Y),\text{即}\\[4pt]
&\qquad \operatorname{cov}(X,Y)=E\bigl[(X-E(X))(Y-E(Y))\bigr].
\end{aligned}
\)
定义
#D21
直接用定义计算
\(
\begin{aligned}
&\text{离散型:}\quad
\operatorname{cov}(X,Y)=
\sum_{i=1}^{\infty}\sum_{j=1}^{\infty}
\bigl(x_i-E(X)\bigr)
\bigl(y_j-E(Y)\bigr)
p_{ij} \\
&\text{连续型:}\quad
\operatorname{cov}(X,Y)=
\int_{-\infty}^{\infty}\int_{-\infty}^{\infty}
\bigl(x-E(X)\bigr)
\bigl(y-E(Y)\bigr)
f_{X,Y}(x,y)\,dx\,dy
\end{aligned}
\)
定义
#D22
常用计算公式 E(XY)-E(X)E(Y)
\(
\begin{aligned}
&\qquad\operatorname{cov}(X,Y)=E(XY)-E(X)E(Y).
\end{aligned}
\)
定义
#D31
“双线性”性质
\(
\begin{aligned}
&\text{若随机变量 } X,Y \text{ 的协方差存在,} a,b \text{ 为任意常数,}\\
&\text{则 } \operatorname{cov}(aX,bY)=ab\,\operatorname{cov}(X,Y).
\end{aligned}
\)
定义
#D33
柯西-施瓦茨不等式
\(
\begin{aligned}
&\textbf{Cauchy--Schwarz 不等式}\;\;\text{设 } (X,Y) \text{ 为二维随机变量,}\\
&\quad\text{若 } D(X),D(Y) \text{ 存在,则 } X,Y \text{ 的协方差也存在,且}\\[4pt]
&\qquad\bigl\lvert\operatorname{cov}(X,Y)\bigr\rvert\;\le\;\sqrt{D(X)}\,\sqrt{D(Y)}.\\[6pt]
&\text{当 } D(X)>0,\;D(Y)>0 \text{ 时,上式等号成立的充要条件是:}\\
&\quad\exists\;t_{0}\in\mathbb R\;\text{ 使 } P\bigl(Y-E(Y)=t_{0}(X-E(X))=1.
\end{aligned}
\)
定义
#E1
定义
\(
\begin{aligned}
&\text{当 } D(X)\gt 0,\;D(Y)\gt 0 \text{ 时,定义}\\
&\qquad \rho_{XY}=\dfrac{\operatorname{cov}(X,Y)}{\sqrt{D(X)}\,\sqrt{D(Y)}}\\[4pt]
&\text{为随机变量 } X \text{ 与 } Y \text{ 的相关系数。}
\end{aligned}
\)
定义
#E2
计算
\(\rho_{XY}=\dfrac{\operatorname{cov}(X,Y)}{\sqrt{D(X)}\,\sqrt{D(Y)}}\)
定义
#E31
相关系数的绝对值不大于1
\(|\rho_{XY}| \lt 1\)
定义
#E34
相关系数等于0: 两个随机变量不相关
\(
\begin{aligned}
&\text{设随机变量 } X,Y \text{ 的方差均存在,且 } D(X)>0,\;D(Y)>0,\text{则下列命题等价:}\\[6pt]
&(i)\;X \text{ 与 } Y \text{ 不相关;}\\
&(ii)\;\rho_{XY}=0;\\
&(iii)\;\operatorname{cov}(X,Y)=0;\\
&(iv)\;E(XY)=E(X)E(Y);\\
&(v)\;D(X\pm Y)=D(X)+D(Y);\\
&(vi)\;D(X+Y)=D(X-Y).
\end{aligned}
\)
定义
#E341
两个随机变量不相关与相互独立的关系
\(
\begin{aligned}
&\text{若 } X \text{ 与 } Y \text{ 相互独立,则必有 } \operatorname{cov}(X,Y)=0\\
&(\text{即不相关})\text{,反之未必。}
\end{aligned}
\)
定义
#G1
定义:k阶原点矩、k阶中心矩、混合原点矩、混合中心矩
\(
\begin{aligned}
&\text{设 } X, Y \text{ 均为随机变量。}\\[4pt]
&(1)\;\text{若 } E\bigl(|X|^{k}\bigr)<+\infty\;(k=1,2,\dots),\;\text{则称 } E\bigl(X^{k}\bigr)\;\text{为 } X \text{ 的 } k\text{ 阶原点矩},\\
&\qquad E\bigl([X-E(X)]^{k}\bigr)\;\text{为 } X \text{ 的 } k\text{ 阶中心矩};\\[6pt]
&(2)\;\text{若 } E\bigl(|X|^{k}|Y|^{\,l}\bigr)<+\infty\;(k,l=1,2,\dots),\;\text{则称 } E\bigl(X^{k}Y^{\,l}\bigr)\;\text{为 } X,Y \text{ 的 } (k+l)\text{ 阶混合原点矩},\\
&\qquad E\bigl([X-E(X)]^{k}[Y-E(Y)]^{\,l}\bigr)\;\text{为 } X,Y \text{ 的 } (k+l)\text{ 阶混合中心矩}.
\end{aligned}
\)
定义
#G2
性质
\(
\begin{aligned}
&\textbf{性质 1}\;\;
(X_1,\dots,X_n)\;\text{为 }n\text{ 维随机变量,协方差矩阵 }C=(\operatorname{cov}(X_i,X_j))_{n\times n}.\\
&\quad\text{(i) 对任意实数向量 } t=(t_1,\dots,t_n)^{\mathsf T},\;
D\!\bigl(t_1X_1+\dots+t_nX_n\bigr)=t^{\mathsf T} C\,t;\\
&\quad\text{(ii) } C\text{ 为半正定矩阵}.\\[8pt]
&\textbf{性质 2}\;\;
(X_1,\dots,X_n)\sim N_n\bigl(\mu,C\bigr),\;\mu=(\mu_1,\dots,\mu_n)^{\mathsf T}.\\
&\quad\text{(i) } X_1,\dots,X_n\;\text{相互独立}\iff C\text{ 为对角矩阵};\\
&\quad\text{(ii) 任意向量 } t=(t_1,\dots,t_n)^{\mathsf T}\;\text{下,}\;
\sum_{i=1}^{n} t_iX_i\sim N\!\bigl(t^{\mathsf T}\mu,\,t^{\mathsf T}C\,t\bigr).
\end{aligned}
\)