1. 简介
1.1 什么是sklearn
sklearn,或者更正式地称为scikit-learn,是一个基于Python的开源机器学习库。它建立在NumPy、SciPy和matplotlib之上,提供了简单而有效的工具用于数据挖掘和数据分析。sklearn支持监督学习和无监督学习算法,包括分类、回归、聚类和降维等。
1.2 sklearn的主要功能
- 数据预处理:提供标准化、归一化、填充缺失值等工具。
- 特征选择与提取:支持PCA、LDA等降维技术,以及特征选择方法。
- 模型选择与评估:提供交叉验证、网格搜索等模型选择和评估工具。
- 监督学习:包括分类和回归算法,如SVM、决策树、随机森林、逻辑回归等。
- 无监督学习:包括聚类、降维算法,如K-means、DBSCAN、t-SNE等。
- 集成学习:支持Bagging、Boosting等方法,如AdaBoost、Gradient Boosting等。
2. 安装sklearn
你可以通过pip或conda来安装sklearn。以下是使用pip安装的命令:
pip install scikit-learn |
如果你使用的是conda环境,可以使用以下命令:
conda install scikit-learn |
3. 数据预处理
在使用sklearn进行机器学习之前,数据预处理是非常关键的一步。它包括数据清洗、特征缩放、特征编码等。
3.1 特征缩放
特征缩放可以帮助提升机器学习算法的性能和稳定性。sklearn提供了多种特征缩放工具:
- StandardScaler:用于特征的标准化,即将特征值缩放到均值为0,方差为1的分布。
- MinMaxScaler:将特征数据缩放到一个指定的范围(通常是0到1)。
- MaxAbsScaler:将每个特征缩放到[-1, 1]的范围内,通过除以每个特征的最大绝对值来实现。
- RobustScaler:使用中位数和四分位数范围(IQR)来缩放特征,对有许多离群点的数据集特别有用。
- Normalizer:将每个样本缩放到单位范数,即使得每个样本的L1或L2范数为1。
3.2 数据清洗
数据清洗包括处理缺失值、异常值、重复值等。sklearn提供了SimpleImputer来处理缺失值,可以选择用平均值、中位数或众数填充。
3.3 编码分类特征
对于分类数据,需要将其转换为机器学习模型可以理解的数值形式。sklearn提供了LabelEncoder(用于单个分类特征)和OneHotEncoder(用于多个分类特征)等工具来实现这一功能。
4. 加载数据集
sklearn自带了一些用于示例和测试的数据集,如鸢尾花数据集(Iris dataset)、波士顿房价数据集(Boston housing dataset)等。以下是如何加载鸢尾花数据集的示例:
from sklearn.datasets import load_iris |
|
iris = load_iris() |
|
X = iris.data # 特征数据 |
|
y = iris.target # 目标标签 |
5. 划分数据集
在训练模型之前,通常需要将数据集划分为训练集和测试集。sklearn提供了train_test_split函数来实现这一功能:
from sklearn.model_selection import train_test_split |
|
X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.2, random_state=42) |
6. 训练模型
sklearn提供了多种内置的机器学习算法。以下是如何使用逻辑回归算法训练模型的示例:
from sklearn.linear_model import LogisticRegression |
|
model = LogisticRegression() |
|
model.fit(X_train, y_train) |
7. 模型评估
训练好模型后,我们需要评估其在测试集上的性能。sklearn提供了各种评估指标,如准确率、精确率、召回率、F1分数等。以下是如何计算模型准确率的示例:
from sklearn.metrics import accuracy_score |
|
y_pred = model.predict(X_test) |
|
accuracy = accuracy_score(y_test, y_pred) |
|
print("Accuracy:", accuracy) |
8. 交叉验证
为了更准确地评估模型的性能,可以使用交叉验证(Cross-Validation)。sklearn提供了cross_val_score函数来实现这一功能:
from sklearn.model_selection import cross_val_score |
|
scores = cross_val_score(model, X_train, y_train, cv=5 |