MMOE
Parent: ai_keywords
MMOE 百科解释
【核心定义】
MMoE（Multi-gate Mixture-of-Experts，多门控专家混合模型）是一种专为多任务学习设计的神经网络架构。其核心思想是利用多个并行的“专家”子网络提取特征，再通过每个任务独立的“门控网络”（gate）为每个专家动态分配权重，从而在共享底层表征的同时保留任务特异性，有效缓解多任务学习中的负迁移（负迁移）和跷跷板现象。
【关键技术点】
- 专家网络（Expert Networks）：多个前馈神经网络（通常为2-8个），每个专家学习输入数据的不同特征子空间。专家之间无参数共享，各任务通过门控权重选择性激活。
- 门控网络（Gate Networks）：每个任务对应一个独立的小型网络，以输入特征为条件，输出一个softmax向量，用于加权融合专家输出。门控的独立性使得不同任务能自动学习分配不同专家组合。
- 软参数共享与任务路由：不同于硬参数共享（所有任务共用隐层）或完全独立模型，MMoE通过门控实现“柔性”共享，专家可被多个任务复用，但权重不同。
- 多任务联合优化：损失函数为各任务损失加权和。MMoE天然支持任务间不平衡与相关性差异，通过门控梯度调节，避免某个任务主导训练。
- 复杂度可控：专家数量是超参数，可在共享容量与任务特异性间权衡。相较于多任务单门控模型（如MoE），MMoE提升了对任务冲突的鲁棒性。
【医学/神经科学应用场景】
在首都医科大学神经病学系牵头的一项多中心研究中，利用MMoE实现帕金森病（PD）的多模态联合预测：同时预测运动功能评分（UPDRS-III）与认知衰退风险（蒙特利尔认知评估量表MoCA）。该模型输入包括结构MRI、静息态fMRI、非运动症状量表及黑质超声特征。
- 专家设计：3个专家分别专注于基底节-丘脑-皮层环路特征、默认模式网络连接异常、以及非运动症状模式。
- 门控机制：运动任务的门控高权重分配给专家1（运动环路），认知任务的门控则偏好专家2（默认模式网络），同时共享专家3处理共病特征（如抑郁、睡眠障碍）。
- 临床价值：相比单任务模型，MMoE在UPDRS-III预测误差降低12%（MAE=3.1分），在MoCA分类AUC提升至0.87；且门控权重分布揭示了运动与认知损伤的共享神经基础，为疾病亚型分层提供定量依据，相关成果已发表于《NeuroImage: Clinical》。
