深度学习中的层次分类问题（Hierarchical Classification）是指分类任务中存在类别间的层次结构，且模型需要根据这种层次关系进行预测的问题。与传统的扁平分类（Flat Classification）不同，层次分类要求模型在预测时考虑类别的层级关系，例如从粗粒度到细粒度的分类过程，或根据类别的树状/图状结构进行推理。
1. 层次分类的定义与特点
层级结构：类别之间存在父子关系或继承关系，形成一个树状或图状的层次结构。
示例：生物学分类：界→门→纲→目→科→属→种
商品分类：电子产品→手机→智能手机→iPhone 15
疾病诊断：疾病大类→亚型→具体病理特征
分类目标：
直接预测最细粒度的类别（叶节点），同时保证路径符合层次约束。
在分类过程中逐层细化（如先判断是否为“动物”，再判断是否为“哺乳动物”）。
2. 层次分类的常见场景
细粒度视觉分类（Fine-Grained Visual Classification）：
区分鸟类子类（如“麻雀” vs. “画眉”）、汽车型号（如“宝马X5” vs. “宝马X6”）等。文本分类：
新闻主题分类（如“体育→足球→英超”）、文档层级标签标注。医学诊断：
疾病类型→亚型→分子分型（如癌症分类）。电商推荐：
商品的多层级标签预测（如“家居→家具→沙发→真皮沙发”）。
3. 层次分类的挑战
类别不平衡：
高层级类别数据多，低层级（细粒度）类别数据少。错误传播：
若高层分类错误，后续细粒度分类无法修正。复杂层级约束：
类别可能属于多个父节点（非严格树状结构）。标注成本：
需要同时标注样本的层级路径（如“动物/哺乳动物/犬科/狗”）。
4. 深度学习中解决层次分类的方法
(1) 层次化网络结构设计
分层预测网络：
为每个层级设计独立的分类器，逐层预测。
示例：第一层网络判断“动物” vs. “植物”，
第二层网络在“动物”基础上判断“哺乳动物” vs. “鸟类”，
最后一层预测具体物种。
联合训练：
通过多任务学习同时优化各层级的分类损失。
(2) 层次感知的损失函数
层次交叉熵（Hierarchical Cross-Entropy）：
根据类别层级调整损失权重。例如，对高层错误施加更大惩罚。路径相似性约束：
强制模型在特征空间中保持类别路径的拓扑结构（如父类与子类特征相近）。
(3) 层次Softmax
树状Softmax：
将Softmax计算限制在层次结构的路径上，减少计算量并融入层级信息。
适用场景：大规模层次分类（如WordNet的10万+类别）。
(4) 图神经网络（GNN）
利用类别关系图：
将类别层次结构建模为图，通过GNN传播类别间的依赖关系。
(5) 迁移学习与知识蒸馏
预训练高层特征：
先在大类上预训练模型，再微调细粒度分类层。教师模型指导：
用扁平分类模型作为教师，指导层次分类模型学习细粒度特征。
5. 层次分类 vs. 扁平分类
| 特性 | 层次分类 | 扁平分类 |
|---|---|---|
| 类别关系 | 显式利用层级结构 | 忽略类别关系 |
| 计算复杂度 | 更高（需处理层次约束） | 较低 |
| 可解释性 | 更高（决策路径可追溯） | 较低 |
| 适用场景 | 细粒度分类、层级数据 | 简单分类任务 |
6. 实际应用案例
ImageNet数据集：
原始的ImageNet包含WordNet的层次结构（约2万类别），早期模型需处理层级分类问题。医疗影像诊断：
预测疾病类型时，需先判断器官（如“肺部”），再识别病变类型（如“肺癌→腺癌”）。自动驾驶：
交通标志分类（如“警告标志→限速标志→限速30km/h”）。
7. 关键研究方向
动态层次分类：允许层次结构随数据变化自适应调整。
小样本层次分类：在少量标注数据下利用层级关系提升性能。
可解释性增强：可视化模型在层次分类中的决策路径。