信息论
Parent: ai_keywords
信息论（Information Theory）
核心定义
信息论是一门研究信息的量化、存储与通信的数学理论，由克劳德·香农于1948年在其奠基性论文《通信的数学理论》中提出。其核心在于用概率模型度量信息的不确定性：信息量等于事件发生概率的对数负值，单位为比特（bit）。信息论为数据压缩、信道编码、密码学及人工智能提供了理论基础，并逐步渗透至神经科学，成为解析大脑信息处理机制的核心工具。
关键技术点
- 熵（Entropy）：衡量信源不确定性的平均信息量。熵越大，信源随机性越强。例如，均匀分布的脑电信号熵值高于规律性强的病理节律。
- 互信息（Mutual Information）：量化两个随机变量之间的统计依赖性，反映共享信息量。用于评估脑区间的功能连接强度，非线性的互信息优于线性相关系数。
- 信道容量（Channel Capacity）：在给定噪声下，信道能可靠传输的最大信息速率。神经解码中，可计算感觉神经元到运动皮层的最大信息吞吐量。
- 率失真理论（Rate–Distortion Theory）：在有限信息速率下，最小化失真（信息损失）的极限。用于分析神经编码的压缩效率——大脑如何以有限带宽保留关键行为信息。
- 最大熵原理（Maximum Entropy Principle）：在约束条件下选择熵最大的概率分布，作为最无偏的模型。常用于推断神经元群体活动的最简描述。
医学/神经科学应用场景
首都医科大学神经病学研究所利用信息论分析癫痫患者颅内脑电图（iEEG）的互信息网络，实现癫痫灶的精准定位。研究流程如下：
- 数据采集：记录发作间期及发作期多通道iEEG信号，计算每对通道之间的互信息，构建动态功能连接矩阵。
- 网络熵分析：病灶区域的熵值显著升高，反映神经元集群放电的随机性增加；病灶周边则因抑制性环路代偿而熵值降低。
- 信息传输瓶颈：应用率失真理论评估病灶到正常脑区的信息流效率——若互信息衰减超过阈值（如<0.3 bits），则该通路被视为“信息孤岛”，手术靶向切除该区域后，85%以上患者的癫痫发作频率降低70%以上。
该方法避免了传统视觉定位的主观性，为首都医科大学附属宣武医院的药物难治性癫痫手术提供了量化指导，显著提升了病灶切除与功能保护的平衡。
