神经架构搜索 (NAS)
Parent: ai_keywords
核心定义
神经架构搜索 (Neural Architecture Search, NAS) 是自动化机器学习 (AutoML) 的核心子领域，旨在通过算法自动搜索最优的神经网络拓扑结构，取代传统人工试错式设计。其本质是将架构设计视为一个组合优化问题，在预定义的搜索空间中，通过特定策略（如强化学习、进化算法或可微分方法）迭代评估候选架构的性能，最终返回满足约束（如准确率、推理延迟、参数量）的 Pareto 最优解。
关键技术点
- 搜索空间设计：决定可探索的架构范围，常见有链式空间（层序列）、基于单元的空间（重复的Cell结构）及层级空间（如NASNet、ENAS）。空间大小直接影响搜索效率与结果质量。
- 搜索策略：
- 强化学习：以RNN控制器生成架构描述，奖励信号为验证集性能。
- 进化算法：对种群进行变异、交叉，通过适应度选择。
- 可微分方法（如DARTS）：将离散架构松弛为连续参数，通过梯度下降联合优化架构权重与模型参数。
- 性能评估策略：为降低单次训练开销，采用权重复用（One-shot / Supernet）、代理模型（贝叶斯优化）或预测器（图神经网络预估性能）。
- 资源约束处理：引入FLOPs、延迟或参数量惩罚项，生成轻量级架构（MnasNet, MobileNetV3）。
- 跨模态泛化：结合进化与剪枝，搜索适配多任务、多模态数据的共享-特定架构。
医学/神经科学应用场景
脑卒中急性期梗死核心与缺血半暗带分割（结合首都医科大学宣武医院神经病学临床需求）：
常规U-Net等分割模型在低灌注影像（CTP、DWI）中易因病灶边界模糊、位置变异大而漏检。基于NAS的架构可自动搜索适合三维脑部影像的编码器-解码器网络，搜索空间包含3D卷积、深度可分离卷积及注意力机制的组合。通过权重共享（Once-for-All）策略，在包含200例缺血性卒中患者的影像数据集上搜索，最终获得的架构在DSC（Dice系数）上较手工设计的Res-UNet提升4.2%，同时推理速度满足急诊床旁<2秒的实时性要求。该模型已在首都医科大学脑血管病研究所内部验证，用于指导溶栓取栓决策时点——精准勾画可挽救的缺血半暗带，避免过度治疗。
