期望和方差

离散型的期望个个都会算

期望

如果 $X\sim f_X(x)$，那么就有

$$E(X)=\int_{-\infty}^{+\infty}xf_X(x)dx$$

如果又有 $Y=g(X)$，那

$$E(Y)=\int_{-\infty}^{+\infty}g(x)\cdot f_X(x)dx$$

如果还有 $Z=g(X,Y)$，那

$$E(Z)=\int_{-\infty}^{+\infty}\int_{-\infty}^{+\infty}g(x,y)\cdot f(x,y)dxdy$$

如果知道了 $(X,Y)\sim f(x,y)$，但是又要求 $E(X)$ 应该怎么办呢，其实啊，$E(X)=E(XY^0)$，这样就不用专门把 $f_X(x)$ 先算出来了

方差

非常简单

$$D(X)=E(X^2)-[E(X)]^2$$

当然还有

$$\begin{aligned} &D(c)=0 \\ &D(cX)=c^2D(X) \\ &D(X+Y)=D(X)+D(Y)+2[E(XY)-E(X)E(Y)] \end{aligned}$$

如果 $X,Y$ 独立，那 $D(X+Y)=D(X)+D(Y)$

常见的分布的期望和方差

对二项分布 $X\sim B(n,p)$，有 $E(X)=np,D(X)=np(1-p)$

对泊松分布 $X\sim P(\lambda)$，即 $P\{ X=k \}=\frac{\lambda^k\cdot e^{-\lambda}}{k!}$，有 $E(X)=\lambda,D(X)=\lambda$

对均匀分布 $X\sim U(a,b)$，有 $E(X)=\frac{a+b}{2},D(X)=\frac{(b-a)^2}{12}$

对指数分布 $X\sim E(\lambda)$，有 $E(X)=\frac{1}{\lambda},D(X)=\frac{1}{\lambda^2}$

对正态分布 $X\sim N(\mu,\sigma^2)$，有 $E(X)=\mu,D(X)=\sigma^2$

协方差

对于 $(X,Y)$，专家把 $E\{ [X-E(X)][Y-E(Y)] \}$ 叫做 $X$ 与 $Y$ 的协方差，记作 $\text{cov}(X,Y)$

显然 $\text{cov}(X,Y)=\text{cov}(Y,X)$

依照定义，$\text{cov}(X,X)=D(X)$

要算协方差的话也可以 $\text{cov}(X,Y)=E(XY)-E(X)E(Y)$

于是上面的一个式子也可以写成 $D(X+Y)=D(X)+D(Y)+2\text{cov}(X,Y)$

专家还发现

$$\begin{aligned} &\text{cov}(aX,bY)=ab\text{cov}(X,Y) \\ &\text{cov}(X+Y,Z)=\text{cov}(X,Z)+\text{cov}(Y,Z) \\ \end{aligned}$$

如果 $X$ 和 $Y$ 独立，那 $\text{cov}(X,Y)=0,\text{cov}(X,c)=0$

专家还把 $\rho_{XY}=\frac{\text{cov}(X,Y)}{\sqrt{D(X)}\sqrt{D(Y)}}$ 叫做 $X$ 和 $Y$ 的相关系数，其实高中个个都学过

很容易发现，无论 $Y=X$ 还是 $Y=2X$，都有 $\rho_{XY}=1$，这是因为 $\rho_{XY}$ 刻画的是 $X$ 和 $Y$ 的线性相关程度

专家发现 $-1\leq \rho_{XY} \leq 1$，证明方法是证 $\rho_{XY}^2\leq 1$

如果 $\rho_{XY}=0$，那 $X$ 和 $Y$ 不相关

如果 $\rho_{XY}=1$，那 $X$ 和 $Y$ 正相关

如果 $\rho_{XY}=-1$，那 $X$ 和 $Y$ 负相关

如果 $X$ 和 $Y$ 独立，那这两个变量当然不相关（就是 $\rho_{XY}=0$），但是反过来不行