概率 期望与方差

发布于:2024-10-13 ⋅ 阅读:(8) ⋅ 点赞:(0)

一、期望

1、定义

        对随机变量可能取值的加权平均,其中权重是每个可能取值的概率。用E表示,如x是随机变量,则该期望为EX

2、离散型随机变量的期望

        对于离散随机变量 X ,其可能的取值为 x1,x2,…,xn,对应的概率为 E(X)=(p_i * x_i )的累计之和。

例如1:三个人的体重分别为150、165、180,求体重的期望值

        EX = 1/3 * 150 + 1/3 * 165 +1/3 *180  = 165

例如2:学校举行歌唱比赛,假设给一个参赛选手打分,专业评委打分90,老师打分100,学生打分80,专业评委分数权重为0.9,老师权重为0.09,学生权重为0.01,求给该选手的打分期望值。

解:设x为打分值,则p(x) 为对应权重

则 EX=90*0.9 + 100*0.09+80*0.01 = 90.8

3、离散型随机变量函数的期望

        同离散型随机变量的期望一样,将x取值变更为y的取值(即 从x=1 变成y=3(y=3x)这样),EY=(p_i * y_i  )的累计之和。

例如:假设X的概率分布表如下,Y=4X+1,求Y的期望:

X 0 1 2
P 0.1 0.6 0.3

  解:EX=(4x+1)*p(x) = (4*0+1)*0.1 +(4*1+1)*0.6+(4*2+1)*0.3 = 0.1+3+2.7=5.8

4、连续型随机变量的期望

       连续随机变量 X ,其概率密度函数为 f(x) ,则 X 的数学期望定义为:E(X)=∫ x*f(x) dx

例如:已知概率密度函数,求期望值

解:EX= ∫ x * 2x dx = 2/3 * x^3 |_0^1 =2/3

5、连续型随机变量函数的期望

        同上面例子,EY=∫ Y*f(x) dx = ∫ g(x)*f(x) dx。

例如:假设密度函数,函数Y=4X+1,求Y的期望

解:带入公式 EY==∫ Y*f(x) dx = ∫ g(x)*f(x) dx =  \int_0^2 (4X+1)*1/2 dx =x^2 +1/2*x |_0^2 = 5

6、二维离散型随机变量函数的期望

        同(3)定义,令Z=g(X,Y) ,概率变为 P(X=x_i,Y=y_j)=p_{ij} ,那么期望公式就变成了 EZ=(g(x,y) * p_{ij} )的累计之和。

 例如:

假设X、Y联合概率分布表如下,求 Z=X^2-Y 的期望

X\y 0 1 2
1 0.1 0.1 0.2
2 0.2 0.2 jie解:代入公式  EZ=(g(x,y) * p_{ij} ++) = ( X^2-Y) * p = (1*1-0) *0.1 +(2*2-0) *0.2+(1*1-1) *0.1+(2*2-1) *0.2+(1*1-2) *0.2+(2*2-2) *0.2 =0.1+0.8+0+0.6-0.2+0.4=1.7

7、二维连续型随机变量函数的期望

        同(5)定义,令Z=g(X,Y),那么z的期望就是z的值乘上(x,y)的联合密度函数(概率)f(x,y)的累计之和,EZ=∫∫ z * f(x,y) dx dy = ∫∫ g(x,y) * f(x,y) dx dy 

例如: 假设X、Y的联合密度函数 ,求z=xy的期望

解:带入公式EZ=∫∫ z * f(x,y) dx dy = ∫∫ g(x,y) * f(x,y) dx dy =  \int_0^1\int_0^1 xy * (x+y)  dx dy = \int_0^1 x^2y^2/2xy^3/3 |_0^1 dx =\int_0^1 x^2/2 +x/3  dx = {(x^3+x^2)}/6  |_0^1 = 1/3

8、期望的公式定理

常数的期望等于常数,EC=C

E(X+C)=EX+C 

E(CX)=C*EX;可将常数*变量的期望可以变成 常数*只有变量期望 

E(kX+b)=k*EX+b ;同上面两个结合,常数不影响期望的计算

E(X±Y)=EX+EY (任何时候都成立 )

X、Y独立,E(XY)=EX*EY;

二、方差

1、定义        

        衡量随机变量或一组数据的离散程度,反映了数据点与其平均值之间的偏离程度(方差越大,数据点越分散;方差越小,数据点越集中)。 DX=E[{(X-EX)}^2]=E(X^2)-(EX)^2

        方差 DX ,平均差 二次根号DX

2、离散型随机变量的方差

        离散型随机变量 X,方差可以表示为 DX=({(X-EX)}^2 *P ) 的累计之和。

例如:假设存在随机变量的x的分布表如下,求DX:

X -2 0 2
P 0.4 0.3 0.3

 解:EX=-2*0.4 + 0*0.3 +2*0.3 = -0.2

        EX^2 = -2 *-2 *0.4 +0*0*0.3 +2*2*0.3 = 1.6+0+1.2=2.8

 DX = E(X^2)-(EX)^2 = 2.8-(-0.2)*(-0.2)=2.76

3、连续型随机变量的方差

         连续型随机变量 X,方差可以表示为: ∫ {(X-EX)}^2⋅f(x) dx 

例如:假设密度函数: ,求方差DX:

解:EX = ∫ x * f(x)dx = \int_0^1 x *2x dx = 2/3

       EX^2 =  ∫ X^2 * f(x)dx = \int_0^1 X^2 *2x dx = 1/2

DX = E(X^2)-(EX)^2  = 1/2 - (2/3 * 2/3) =1/18

4、方差的公式定理

        DC = 0;

        D(X+C) = DX;

        D(CX) =C^2DX;

        D(kX+b) = k^2DX;

        X、Y独立,D(X±Y) = DX+DY

        X、Y不独立,D(X±Y) = DX+DY±2Cov(X,Y); Cov(X,Y) 是协方差

三、常见离散型的期望与方差

1、 0-1分布        

X 0 1
p 1-p p

 EX=p;

 DX = EX^2-(EX)^2= p-p^2= p *(1-p) 

2、 二项分布

 P(x=k) = C_k^n p^kq^{}(n-k) ,k=0,1,……n

E(X)=n⋅p
DX=n⋅p⋅(1−p)

3 几何分布

P(x=k) = (1-p)^{k-1} * p ,k=1,2,……

EX = 1/P
DX = (1-p)/p^2

4 泊松分布

EX = λ
DX=λ 

四、常见连续型的期望与方差

1、 均匀分布

 EX =\int_a^b x * (1/(b-a) )  dx = (a+b)/2

 DX = (b-a)^2/12

2、 指数分布

 EX = 1/λ
 DX = 1/λ*λ

3、 正态分布

EX = u
DX = σ^2

五、协方差

1、定义

        对于两个随机变量 X 和 Y ,协方差定义为  Cov(X,Y)=E[(X−EX)(Y−EY)] =E(XY)−EXEY 。

2、性质

        Cov(X,Y) = Cov(Y,X);

        Cov(aX,bY) = abCov(X,Y);

        Cov(X_1+X_2,Y) = Cov(X_1,Y)+Cov(X_2,Y);

        Cov(C,X) = 0;

        X、Y独立,Cov(X,Y) = 0;

3、相关系数

        定义  ρ=Cov(X,Y) / ={DX}^{1/2}  *{DY}^{1/2}  ,相关系数的值在 -1 和 1 之间, -1 表示完全负相关,1 表示完全正相关,0 表示没有线性关系

       正相关:如果相关系数为正,表明当一个变量的值增加时,另一个变量的值也倾向于增加。

       负相关:如果相关系数为负,表明当一个变量的值增加时,另一个变量的值倾向于减少。

       无相关:如果相关系数为零,表明两个变量之间没有线性关系。