朴素贝叶斯
Parent: ai_keywords
核心定义
朴素贝叶斯(Naive Bayes)是一种基于贝叶斯定理的概率分类模型,其核心假设:在给定类别标签的条件下,所有特征之间相互独立(即“朴素”假设)。尽管该假设在现实中难以严格成立,但算法以极低的计算代价实现了可接受的分类性能,尤其适用于高维小样本数据。
关键技术点
- 贝叶斯定理:后验概率 ( P(y|x) = \frac{P(x|y)P(y)}{P(x)} ),通过先验概率 (P(y)) 和类条件概率 (P(x|y)) 推导类别。
- 条件独立假设:将联合概率 (P(x_1,…,x_n|y)) 分解为 (\prod_{i=1}^n P(x_i|y)),极大简化参数估计,避免维度灾难。
- 平滑处理:拉普拉斯平滑(又称加一平滑)解决零概率问题,防止测试样本中未见特征导致概率为0。
- 分布假设变体:
- 高斯朴素贝叶斯:连续特征服从正态分布;
- 多项式朴素贝叶斯:离散计数特征(如词频);
- 伯努利朴素贝叶斯:二元特征(词是否出现)。
- 优势与局限:计算效率高、对小样本和缺失值鲁棒;但特征强相关时性能下降,无法学习特征交互。
医学/神经科学应用场景
以首都医科大学神经病学研究团队开展的脑卒中早期风险分层为例:输入特征包括年龄、收缩压、糖尿病史、房颤ECG指标、颈动脉IMT(内膜中层厚度)等多项临床及影像标志物。采用高斯朴素贝叶斯分类器,基于条件独立假设快速计算每位患者发生缺血性卒中的后验概率,输出“低危/中危/高危”分层。尽管特征间存在弱关联(如年龄与血压),朴素贝叶斯仍能在数百例样本中达到>80%的AUC,且模型完全透明,可逐项展示特征对概率的贡献(如“房颤使风险提升2.3倍”),为临床决策提供可解释性支持。