机器学习预备知识

发布于:2025-03-03 ⋅ 阅读:(15) ⋅ 点赞:(0)

一、机器学习应用领域

1.1 推荐系统

  • 典型案例:移动 APP 推荐功能
  • 核心方法:基于用户行为数据的协同过滤与深度学习

1.2 计算机视觉

  • 应用场景:图像分类、目标检测
  • 关键技术:卷积神经网络(CNN)

1.3 博弈决策

  • 里程碑案例:AlphaGo 围棋系统
  • 核心技术:深度强化学习与蒙特卡洛树搜索

二、核心概念体系

2.1 概念关系图谱

人工智能
机器学习
深度学习
强化学习
神经网络

2.2 关键术语解析

  • 数据集结构
食材新鲜度 火候 烹饪技术 菜肴评价
新鲜 偏大 熟练 中等
不够新鲜 适中 一般
  • 任务类型
    • 监督学习:分类(离散值)、回归(连续值)
    • 无监督学习:聚类、降维

三、机器学习三要素

3.1 模型架构

F = { f ∣ Y = f ( X ) } 或 F = { P ∣ P ( Y ∣ X ) } \mathcal{F}=\{f\mid Y=f(X)\} \quad \text{或} \quad \mathcal{F}=\{P\mid P(Y\mid X)\} F={fY=f(X)}F={PP(YX)}

3.2 优化策略

损失函数公式:
L = 1 N ∑ i = 1 N L ( y i , f ( x i ) ) + λ J ( f ) L = \frac{1}{N}\sum_{i=1}^N L(y_i, f(x_i)) + \lambda J(f) L=N1i=1NL(yi,f(xi))+λJ(f)

3.3 求解算法

  • 梯度下降法
  • 牛顿法
  • 拟牛顿法

四、性能评估体系

4.1 分类指标

混淆矩阵示例

预测正 预测负
实际正 TP=70 FN=25
实际负 FP=15 TN=50

核心指标

  • 准确率:
  • 精确率:
  • 召回率:

4.2 回归指标

指标 公式
MAE 1 n ∑ y i − y ^ i \frac{1}{n}\sum y_i-\hat{y}_i n1yiy^i
MSE 1 n ∑ ( y i − y ^ i ) 2 \frac{1}{n}\sum(y_i-\hat{y}_i)^2 n1(yiy^i)2
1 − S S r e s S S t o t 1-\frac{SS_{res}}{SS_{tot}} 1SStotSSres

五、编程实践

5.1 NumPy 基础

import numpy as np
arr = np.array([1,2,3])
print(arr.dtype)  # 输出:int32

5.2 sklearn 建模

from sklearn.datasets import load_iris
from sklearn.linear_model import LogisticRegression

X, y = load_iris(return_X_y=True)
model = LogisticRegression().fit(X, y)
print(model.predict(X[:2]))  # 样本预测

六、实战练习

6.1 手动计算题

给定测试集与预测结果:

y_test = [1,1,0,1,0,0,1,0,1,0,1,0,1,0,1,0,1,1,0,0,1,0,1,1,1,0,0,0,1,0]
y_pred = [1,0,1,1,0,1,1,0,1,0,0,0,1,0,1,0,1,1,0,1,1,1,1,1,1,0,1,0,1,1]

计算步骤

  1. 构建混淆矩阵
  2. 计算 Accuracy/Precision/Recall
  3. 推导 F 1 Score
  4. 估算 AUC 值

6.2 代码验证

from sklearn.metrics import accuracy_score, precision_score, recall_score, f1_score, roc_auc_score

print(f"Accuracy: {accuracy_score(y_test, y_pred):.2f}")
print(f"AUC: {roc_auc_score(y_test, y_pred):.2f}")

七、延伸思考

  • 如何解决过拟合问题?
  • 特征工程对模型性能的影响
  • 不同优化算法的适用场景

附录:机器学习发展历程时间轴
1950 s:图灵测试提出 → 1980 s:反向传播算法 → 2012:AlexNet 突破 → 2016:AlphaGo 里程碑