LoRA
Parent: ai_keywords
LoRA（低秩适配）
核心定义
LoRA（Low-Rank Adaptation）是一种参数高效的迁移学习方法，通过将预训练权重矩阵冻结，并注入可训练的低秩分解矩阵（即 ( W + \Delta W = W + BA )，其中 ( B \in \mathbb{R}^{d \times r}, A \in \mathbb{R}^{r \times k}, r \ll \min(d,k) )），从而仅用极少量参数（通常为原模型参数的 0.1%~1%）实现对大型语言模型或视觉模型的高效下游任务适配，同时保持推理延时无额外开销。
关键技术点
- 低秩分解假设：预训练模型的权重更新矩阵 (\Delta W) 具有低秩特性（即有效维度远小于原始维度），因此可用两个较小的矩阵乘积近似，显著减少可训练参数量。
- 零推理开销：训练完成后，可将低秩矩阵 (BA) 与原始权重 (W) 合并（(W_{\text{final}} = W + BA)），推理时模型结构与原始模型完全一致，无额外延时。
- 模块化插入：仅对 Transformer 的注意力层（Query/Key/Value/Output 投影）中的权重矩阵应用 LoRA，而冻结其余所有参数，支持在单一模型中叠加多个独立适配器（如同时适配不同医院的数据分布）。
- 与全微调等价性：当秩 (r) 取到与原始维度相同时，LoRA 可恢复全微调的效果，但实践中 (r = 8) 或 (16) 即可达到接近甚至超越全微调的性能，且大幅降低显存占用。
- 正交性与可组合性：多个 LoRA 适配器可以独立训练、动态组合（例如用于多任务学习或领域迁移），极大增强模型在医疗场景中的复用性。
医学/神经科学应用场景（首都医科大学神经病学研究背景）
在首都医科大学附属宣武医院神经内科的阿尔茨海默病（AD）早期诊断研究中，团队利用 LoRA 高效适配大型视觉语言基础模型（如 BiomedCLIP），实现多模态数据（结构 MRI、PET 影像及临床认知评估文本）的联合分析。具体做法：冻结预训练好的 Vision Transformer 和文本编码器，仅在交叉注意力融合模块注入低秩适配器，使用本地 2000 例患者的纵向数据（含认知正常、轻度认知障碍、AD 三类）进行训练，可训练参数仅占全模型的 0.8%。实验表明，该方案不仅将模型在全新影像中心数据上的域迁移时间从全微调所需的 12 小时缩短至 40 分钟，且通过低秩约束有效避免了小样本下的过拟合，最终分类 AUC 达到 0.92，为临床提供了一种数据隐私合规（无需上传原始影像至云端）的即插即用诊断辅助工具。
