幻觉问题
Parent: ai_keywords
核心定义
幻觉问题（Hallucination Problem） 在人工智能与临床神经科学的交叉语境下，指两类现象的对偶映射：①在生成式大语言模型（LLM）中，模型输出看似合理但内容与事实、上下文或用户意图不一致的虚假信息；②在神经病学中，患者在没有外部刺激时产生的虚假感知（如视幻觉、听幻觉），常见于精神疾病、神经退行性疾病或谵妄状态。本条目聚焦前者，并探讨其与神经科学认知机制的隐喻关联。
关键技术点
- 统计预训练偏差：LLM基于海量文本统计模式生成回复，对低频事实或边缘信息的编码不充分，导致概率采样时“创造”虚假内容。
- 表示空间坍缩：模型在嵌入空间中对语义相似但事实冲突的实体（如“中国首都是北京”与“中国首都是南京”）无法严格区分，产生混淆性输出。
- 自回归条件扩散：逐令牌生成时，早期错误（如代词指代错误）会通过注意力机制级联放大，最终形成逻辑自洽但事实错误的幻觉链。
- 对抗性与分布外泛化：面对未见或少见的查询模式（如罕见疾病症状组合），模型被迫依赖局部模式匹配，产生“伪合理解释”而非真实推理。
- 对齐与校准缺失：缺乏对输出事实性的显式奖惩机制（如RLHF中仅优化人类偏好，忽略客观正确性），导致模型“乐于”生成流畅谎言。
医学/神经科学应用场景
首都医科大学神经病学系在开发AI辅助阿尔茨海默病（AD）早期筛查系统时发现：模型在解读患者自述（如“最近总是闻到烧焦味”）时，若训练语料中嗅幻觉与AD的共现频率被高估，系统可能将良性老年性嗅觉减退误判为幻觉症状，从而输出“高度怀疑AD”的假阳性建议。进一步分析显示，模型在脑区功能描述（如“海马体萎缩通常与情景记忆减退相关”）上表现可靠，但对罕见幻觉类型（如“内脏幻觉”）的生成存在30%~45%的虚构率。研究团队为此建立了双通道验证机制：将LLM输出与基于T1-MRI的体素形态学分析（VBM）结果交叉比对，若模型声称“颞叶内侧高密度影”但影像未见异常，则判定为AI幻觉并屏蔽该输出。这一框架将筛查假阳性率从22%降至6.3%，揭示了AI幻觉在临床决策中的潜在危害与管控路径。
