概率论和数理统计是数学的重要分支,广泛应用于科学、工程、经济等领域。这里是主要知识点的详细汇总。
一、概率论
基本概念
- 随机试验:结果不确定但所有可能结果已知的实验。
- 样本空间:随机试验所有可能结果的集合。
- 随机事件:样本空间的子集。
- 概率:事件发生的可能性,满足非负性、规范性和可列可加性。
条件概率与独立性
- 条件概率:事件A在事件B发生的条件下发生的概率,公式为 ( P ( A ∣ B ) = P ( A ∩ B ) P ( B ) P(A|B) = \frac{P(A \cap B)}{P(B)} P(A∣B)=P(B)P(A∩B) )。
- 独立性:事件A和B独立,当且仅当 ( P ( A ∩ B ) = P ( A ) P ( B ) P(A \cap B) = P(A)P(B) P(A∩B)=P(A)P(B) )。
随机变量及其分布
随机变量:将样本空间映射到实数的函数。
离散型随机变量:取有限或可数无限个值。
连续型随机变量:取值充满某个区间。
分布函数:( F ( x ) = P ( X ≤ x ) F(x) = P(X \leq x) F(x)=P(X≤x) )。
概率密度函数(PDF):连续型随机变量的概率密度函数 ( f ( x ) f(x) f(x) ) 满足
( P ( a ≤ X ≤ b ) = ∫ a b f ( x ) d x P(a \leq X \leq b) = \int_a^b f(x)dx P(a≤X≤b)=∫abf(x)dx )。
常见分布
- 离散型:
- 二项分布 ( B ( n , p ) B(n, p) B(n,p) )
- 泊松分布 ( P ( λ ) P(\lambda) P(λ) )
- 几何分布
- 连续型:
- 均匀分布 ( U ( a , b ) U(a, b) U(a,b) )
- 正态分布 ( N ( μ , σ 2 ) N(\mu, \sigma^2) N(μ,σ2) )
- 指数分布
- 离散型:
多维随机变量
- 联合分布:两个或多个随机变量的联合分布函数 ( F ( x , y ) = P ( X ≤ x , Y ≤ y ) F(x, y) = P(X \leq x, Y \leq y) F(x,y)=P(X≤x,Y≤y) )。
- 边缘分布:联合分布中单个随机变量的分布。
- 条件分布:给定一个随机变量的值,另一个随机变量的分布。
- 独立性:两个随机变量独立,当且仅当联合分布等于边缘分布的乘积。
期望与方差
- 期望:随机变量的平均值,( E ( X ) = ∑ x i p i E(X) = \sum x_i p_i E(X)=∑xipi )(离散型)或 ( E ( X ) = ∫ x f ( x ) d x E(X) = \int x f(x)dx E(X)=∫xf(x)dx )(连续型)。
- 方差:随机变量与其期望的偏离程度,( V a r ( X ) = E [ ( X − E ( X ) ) 2 ] Var(X) = E[(X - E(X))^2] Var(X)=E[(X−E(X))2] )。
大数定律与中心极限定理
- 大数定律:当试验次数趋近于无穷大时,样本均值趋近于期望值。
- 中心极限定理:大量独立随机变量的和近似服从正态分布。
二、数理统计
基本概念
- 总体与样本:总体是研究对象的全体,样本是从总体中抽取的部分。
- 统计量:样本的函数,如样本均值、样本方差。
- 抽样分布:统计量的概率分布。
参数估计
- 点估计:用样本统计量估计总体参数,常用方法有矩估计和最大似然估计。
- 区间估计:给出参数的估计区间,如置信区间。
假设检验
- 基本步骤:提出假设、构造检验统计量、确定拒绝域、做出决策。
- 常见检验:
- Z检验
- t检验
- 卡方检验
- F检验
回归分析
- 线性回归:研究因变量与一个或多个自变量之间的线性关系。
- 最小二乘法:通过最小化误差平方和来估计回归系数。
方差分析
- 单因素方差分析:比较多个总体均值是否相等。
- 多因素方差分析:研究多个因素对因变量的影响。
非参数统计
- 非参数方法:不依赖于总体分布的具体形式,如符号检验、秩和检验。
三、常用公式与定理
概率公式
- 全概率公式:( P ( A ) = ∑ P ( A ∣ B i ) P ( B i ) P(A) = \sum P(A|B_i)P(B_i) P(A)=∑P(A∣Bi)P(Bi) )
- 贝叶斯公式:( P ( B i ∣ A ) = P ( A ∣ B i ) P ( B i ) ∑ P ( A ∣ B j ) P ( B j ) P(B_i|A) = \frac{P(A|B_i)P(B_i)}{\sum P(A|B_j)P(B_j)} P(Bi∣A)=∑P(A∣Bj)P(Bj)P(A∣Bi)P(Bi) )
期望与方差的性质
- ( E ( a X + b ) = a E ( X ) + b E(aX + b) = aE(X) + b E(aX+b)=aE(X)+b )
- ( V a r ( a X + b ) = a 2 V a r ( X ) Var(aX + b) = a^2 Var(X) Var(aX+b)=a2Var(X) )
- ( E ( X + Y ) = E ( X ) + E ( Y ) E(X + Y) = E(X) + E(Y) E(X+Y)=E(X)+E(Y) )
- ( V a r ( X + Y ) = V a r ( X ) + V a r ( Y ) + 2 C o v ( X , Y ) Var(X + Y) = Var(X) + Var(Y) + 2Cov(X, Y) Var(X+Y)=Var(X)+Var(Y)+2Cov(X,Y) )
协方差与相关系数
- 协方差:( C o v ( X , Y ) = E [ ( X − E ( X ) ) ( Y − E ( Y ) ) ] Cov(X, Y) = E[(X - E(X))(Y - E(Y))] Cov(X,Y)=E[(X−E(X))(Y−E(Y))] )
- 相关系数:( ρ X Y = C o v ( X , Y ) V a r ( X ) V a r ( Y ) \rho_{XY} = \frac{Cov(X, Y)}{\sqrt{Var(X)Var(Y)}} ρXY=Var(X)Var(Y)Cov(X,Y) )
中心极限定理
- 若 ( X 1 , X 2 , … , X n X_1, X_2, \dots, X_n X1,X2,…,Xn ) 独立同分布,且 ( E ( X i ) = μ E(X_i) = \mu E(Xi)=μ ),( V a r ( X i ) = σ 2 Var(X_i) = \sigma^2 Var(Xi)=σ2 ),则当 ( $n \to \infty $) 时,( ∑ X i − n μ n σ \frac{\sum X_i - n\mu}{\sqrt{n}\sigma} nσ∑Xi−nμ ) 近似服从标准正态分布。
四、应用实例
概率论应用
- 赌博游戏:计算赢的概率。
- 保险:计算风险与保费。
数理统计应用
- 质量控制:通过抽样检验产品质量。
- 医学研究:通过假设检验评估药物效果。
总结
概率论研究随机现象的规律,数理统计则通过数据分析推断总体特性。两者相辅相成,广泛应用于各个领域。掌握这些知识点,有助于更好地理解和应用概率统计方法。