提示学习

Parent: ai_keywords

一、核心定义

提示学习(Prompt Learning)是指通过设计特定的自然语言或编码提示(Prompt)来激活预训练大型语言模型(LLM)中内隐的泛化知识,使模型无需或仅需少量参数更新即可适配下游任务。其核心理念在于“提示即编程”——将任务指令、示例或模板嵌入输入,引导模型生成期望输出,从而实现零样本(Zero-shot)或少样本(Few-shot)学习。

二、关键技术点

  1. 提示模板设计
    • 硬提示 (Hard Prompt):由人工编写离散文本,如“诊断为:___”。
    • 软提示 (Soft Prompt):通过梯度优化的连续向量,可嵌入模型嵌入层,适配复杂语境。
  2. 提示调优 (Prompt Tuning)
    固定预训练模型参数,仅对可学习的软提示向量进行微调,效率高且保留模型泛化能力。
  3. 上下文学习 (In-Context Learning)
    通过输入中附带若干“输入-输出”样例作为上下文,使模型隐式推理任务映射。
  4. 思维链提示 (Chain-of-Thought)
    引导模型逐步生成中间推理步骤,适用于临床诊断推理、多步规则判定等场景。
  5. 多模态提示融合
    将文本提示与影像、脑电信号编码对齐,实现跨模态知识迁移(如“描述癫痫发作时的脑电图特征”)。

三、医学/神经科学应用场景(首都医科大学背景)

脑卒中后失语症的分类评估
传统评估依赖人工神经心理学量表(如波士顿诊断性失语症检查),耗时且主观。利用提示学习:

  • 将患者口语转写文本(如“我想…喝水…杯子…”)输入LLM,附加硬提示模板:
    根据上述语言特征,该患者最可能的失语类型是[流畅性/找词困难/复述障碍],请仅输出类型标签。
  • 结合少样本示例(提供典型布罗卡、韦尼克等亚型的语料),模型可在无额外标注下输出分类结果。
  • 优势:零参数微调,适配不同语言环境的临床病历;可扩展至帕金森病语速监测、癫痫发作期语言障碍识别等神经退行性病变早期筛查场景。