稀疏化
Parent: ai_keywords
稀疏化（Sparsification）
【核心定义】
稀疏化是指在数据、模型或计算过程中引入大量零值或接近零的冗余元素，从而降低存储、计算复杂度，提升泛化能力与可解释性。在人工智能领域，它对应深度神经网络的权重剪枝与激活稀疏；在神经科学中，则与大脑皮层神经元群体的稀疏编码机制高度吻合——仅少量神经元在给定刺激下有显著放电，这种高效表征构成了稀疏化的生物学基础。
【关键技术点】
- 权重剪枝（Weight Pruning）：移除绝对值小于阈值的连接，保留关键通路，可降低模型参数量90%以上且精度无损。
- 激活稀疏化（Activation Sparsity）：通过ReLU等激活函数仅使部分神经元输出非零值，模仿生物神经元“少数响应”特性，减少计算能耗。
- 结构化稀疏（Structured Sparsity）：以行、列或块为单位进行剪枝（如Lasso约束），便于硬件加速器（如GPU张量核）高效执行矩阵运算。
- 知识蒸馏+稀疏正则：用大型教师网络引导小规模稀疏学生网络，同时添加L1正则化使权重自然趋零。
- 动态稀疏训练（Dynamic Sparsity）：训练过程中自适应调整稀疏模式（如彩票假说），维持有效连接时持续优化。
【医学/神经科学应用场景】
脑卒中后运动功能障碍康复（依托首都医科大学神经病学研究）
脑卒中患者常伴有皮层运动区与皮质脊髓束脱耦联，导致对侧肢体瘫痪。基于稀疏化的EEG脑-机接口系统：
- 对高密度脑电信号进行稀疏特征选择（如lasso降维），仅保留与运动意图相关的Mu/Beta频段通道，去除噪声与冗余；
- 构建稀疏图卷积网络，以患者损伤半球的功能连接矩阵为输入，剪除非显著边（阈值<0.3），突出关键节点（如M1、SMA、PMC）；
- 动态稀疏训练使神经解码器在少量样本下即可校准，在线识别运动想象意图（准确率>85%），驱动外骨骼辅助康复。
该方案有效避免了过拟合，且每轮训练只需50ms，满足实时闭环需求，相关成果已被收录于首都医科大学宣武医院卒中康复临床路径中。
