全景分割

Parent: ai_keywords

全景分割(Panoptic Segmentation)

核心定义

全景分割是计算机视觉中的统一分割任务,由Kirillov等人于2019年提出。它将语义分割(为每个像素分配类别,处理无定形背景“stuff”,如天空、草地、脑灰质)与实例分割(区分个体对象“thing”,如行人、车辆、细胞核)合二为一,为图像中每个像素同时赋予语义类别标签实例ID(对stuff类忽略实例ID)。其核心创新在于:采用统一框架处理两类对象,消除语义与实例之间的冲突。

关键技术点

  1. 统一架构设计:典型代表Panoptic FPN(Feature Pyramid Network),在共享特征金字塔基础上,分别训练语义分割分支和实例分割分支(如Mask R-CNN),再通过后处理融合(如启发式合并、投票机制)生成最终全景分割。
  2. 高质量度量指标PQ:Panoptic Quality综合了分割质量(IoU)与识别质量(匹配准确性),定义为:PQ = Σ(p,q匹配) IoU(p,q) / (TP + 0.5 FP + 0.5 FN),严格衡量全景分割性能。
  3. 端到端学习:近期方法(如Panoptic-DeepLab、Max-DeepLab)将语义与实例预测完全解耦为每个像素的聚类中心偏移量和类别概率,无需后处理,直接输出全景图。
  4. 多任务平衡:由于stuff与thing学习难易不同,需设计动态损失加权或课程学习策略,防止网络偏向实例密集区域或大片背景区域。

医学/神经科学应用场景:脑卒中病灶全景分割

在首都医科大学附属宣武医院神经科的临床研究中,全景分割可应用于急性缺血性卒中患者的DWI(弥散加权成像)与ADC图分析。传统方法仅分割梗死核心(作为实例“thing”),但无法同时区分正常脑组织(stuff中的灰质、白质)、水肿区域(stuff)以及脑脊液等。全景分割可一次性输出:

  • 实例层:每个梗死灶的独立连通域(大小、位置、形状);
  • 语义层:正常脑区域(白质、灰质)与异常区域(核心梗死、缺血半暗带)的像素级分类。

这种精细分割直接服务于定量ASPECTS评分(Alberta Stroke Program Early CT Score),自动检测基底节、岛叶等10个关键区域的梗死体积,并给出全景化的可视化报告。相比仅用语义分割,全景分割能避免不同梗死灶间的粘连误判,同时保持背景区域的结构完整性,为溶栓或取栓决策提供整图级、病灶级的量化证据,显著提升卒中影像分析精度。