课程学习
Parent: ai_keywords
课程学习（Curriculum Learning）
【核心定义】
课程学习是一种受人类认知发展启发的机器学习训练策略，其核心思想是按照从易到难的数据顺序组织训练过程，即先让模型学习高置信度、低噪声的简单样本，再逐步引入复杂、模糊或高噪声的样本。该方法由 Bengio 等人于 2009 年正式提出，旨在缓解深度模型收敛慢、易陷入局部最优及过拟合问题，尤其适用于数据分布不均衡或标注质量参差的场景。
【关键技术点】
-
难度评估与排序
需定义样本的“难度”度量，例如：对分类任务可使用模型预测置信度、样本与原型距离；对序列任务可使用句长或编辑距离。难度评估可基于预训练模型或手工规则，动态或静态生成排序。 -
训练进度调度
控制模型在不同阶段接触的样本难度比例。常见调度方式包括：线性递增（逐步引入困难样本）、自适应阈值（根据验证集性能动态调整难度阈值）、自步学习（将难度选择作为优化变量，与模型参数联合学习）。 -
与课程结合的损失函数加权
在损失函数中对不同难度样本赋予不同权重（如简单样本权重高、困难样本权重低），防止早期被困难样本干扰。典型方法包括自步课程学习（SPCL）和对数加权策略。 -
迁移与多任务课程
将课程学习扩展到跨任务或领域迁移：先让模型在源域简单任务上预训练，再逐步过渡到目标域复杂任务，如在医学影像诊断中，先识别正常切片，再辨别早期病变，最后处理典型病灶。
【医学/神经科学应用场景：脑卒中病灶分割的课程学习】
背景：首都医科大学神经病学团队在脑卒中 MRI 病灶分割中，面临病灶尺寸差异大、边界模糊、存在多病灶等挑战。传统分割模型容易对大面积清晰病灶过拟合，忽视小病灶或低对比度区域。
课程学习方案：
- 难度分级：根据病灶面积（小＜100mm²为中，大＞500mm²为易）、对比度（DWI与ADC差值）及形状规则度，将训练样本分为三级。
- 训练过程：第一阶段仅使用大面积、高对比度病灶的切片，训练模型学习基本轮廓；第二阶段加入中等病灶，引入注意力机制聚焦边界；第三阶段纳入微小病灶及模糊边界样本，并采用自步反馈：若模型在验证集上对中等病灶Dice>0.6，才开放第三级数据。
- 效果：相比随机顺序训练，课程学习使小病灶分割Dice系数提升8%，假阳性率降低12%，且收敛速度加快30%。该策略已应用于首都医大附属天坛医院的急性缺血性卒中预后评估系统。
