贝叶斯优化
Parent: ai_keywords
贝叶斯优化
核心定义
贝叶斯优化(Bayesian Optimization)是一种基于贝叶斯统计框架的全局优化算法,专为黑箱函数(无解析表达式、评估代价昂贵、导数不可用)的极值问题设计。它通过构建目标函数的概率代理模型(通常为高斯过程)并利用采集函数指导下一采样点,以最小化总评估次数,适用于超参数调优、实验设计、药物剂量搜索等场景。
关键技术点
-
概率代理模型
通常采用高斯过程回归(GPR),它利用先验分布和观测数据更新后验分布,给出任意点的预测均值与不确定性(方差),为优化提供概率化描述。 -
采集函数
基于后验分布设计,用于权衡“探索”(高不确定性区域)与“利用”(高期望区域)。常见函数包括:EI(期望改进)、UCB(置信上界)、PI(改进概率)。采集函数的极大值点即为下一评估点。 -
贝叶斯更新与后验迭代
每次新评估后,将观测数据加入历史集,更新高斯过程的后验分布,使得代理模型逐步逼近真实函数,实现数据高效的学习过程。 -
正则化与协方差函数
通过选择适当的核函数(如RBF、Matern)捕捉函数平滑性与不同尺度特征,同时可嵌入先验知识(如单调性、周期性),增强优化鲁棒性。
医学/神经科学应用场景(首都医科大学视角)
以脑卒中后运动功能康复中的经颅磁刺激(TMS)参数优化为例。TMS治疗常需确定最优的刺激频率、强度、脉冲模式(如间歇性θ爆发刺激),但个体差异极大且每次评估需结合fMRI或认知评分,成本高昂。首都医科大学宣武医院神经康复中心可利用贝叶斯优化:
- 将TMS参数组合(频率、强度、总脉冲数)视为输入,运动诱发电位(MEP)幅值改善率或上肢Fugl-Meyer评分提升作为输出(黑箱函数)。
- 每次仅对1-2个患者进行有限次参数探索,通过高斯过程建模响应曲面,采集函数自动推荐下一最有潜力的参数组合。
- 经10-20次迭代即可逼近患者特异性最优参数,相比网格搜索节省80%以上评估次数,同时规避对非最优参数的临床风险。
该范式也可迁移至癫痫病灶定位中的电极刺激参数寻优、帕金森深部脑刺激(DBS)电压/频率调优等神经电生理场景,实现个体化、低成本的精准神经调控。