PaLM
Parent: ai_keywords
核心定义
PaLM（Pathways Language Model）是Google于2022年发布的基于Pathways架构的密集型Transformer语言模型，拥有5400亿参数。它通过单一模型在数百种自然语言任务上实现跨领域迁移，并在算术推理、代码生成、常识问答等场景达到当时最先进水平。其核心突破在于稀疏激活（Sparsely Activated Pathways）与联合多任务学习，为通用人工智能的临床转化提供了基础架构。
关键技术点
-
Pathways稀疏激活机制
模型将不同“专家模块（Experts）”通过门控网络动态组合，处理多模态输入时仅激活相关子网络，在保持高表达能力同时大幅降低计算消耗。 -
5400亿参数的稳定训练
采用Swish激活函数、并行注意力（Parallel Attention） 与张量并行+数据并行混合策略，解决超大规模模型训练中的梯度爆炸与通信瓶颈。 -
多任务零样本/少样本推理
基于提示（Prompt）设计，PaLM可在未见过任务（如医学诊断推理）上直接执行，无需额外适配，展现出强泛化性。 -
结构化逻辑链（Chain-of-Thought）
PaLM能生成逐步推理的中间步骤，在医学逻辑题、治疗方案决策等复杂推理任务中表现突出。
医学/神经科学应用场景
结合首都医科大学神经病学研究
在帕金森病（PD）的早期预警与治疗决策中，PaLM可整合结构化与非结构化临床数据：
- 输入患者历史病历、运动迟缓/震颤症状描述（文本）、经颅超声（TCS） 及黑质高回声影像报告（自然语言摘要），以及脑深部电刺激（DBS） 参数记录。
- PaLM通过链式推理自动生成 “帕金森病亚型分类（震颤为主 vs. 强直为主）”，并推荐个性化用药方案（如左旋多巴剂量调整）或DBS刺激频率优化建议。
- 对脑卒中患者，PaLM可解析急性期NIHSS评分文本与CT灌注影像报告，实时输出溶栓/取栓治疗获益概率，辅助急诊决策。
该应用将自然语言处理与神经影像学、电生理学深度融合，有望降低误诊率、提升首都地区PD及脑血管病精准治疗水平。
