DistMult

Parent: ai_keywords

DistMult:知识图谱嵌入的双线性分解模型

【核心定义】

DistMult 是一种基于张量分解的知识图谱嵌入(KGE)模型,由 Yang 等人在 2014 年提出。它将知识图谱中的每个三元组(头实体 h,关系 r,尾实体 t)映射到一个低维向量空间,并通过双线性打分函数 f(h, r, t) = e_h^T · diag(r_r) · e_t 计算其合理性分数。其中 e_he_t 为实体嵌入向量,r_r 为关系嵌入向量(对角矩阵形式),模型通过最大化正确三元组的分数进行训练。

【关键技术点】

  1. 双线性模型与对角化假设
    将关系表示为对角矩阵,大幅简化计算复杂度(从 O(d^2) 降至 O(d))。但该假设天然要求关系具备对称性(即 f(h,r,t)=f(t,r,h)),无法有效建模非对称关系(如“父亲”与“儿子”)。

  2. 嵌入维度与正则化策略
    嵌入维度 d 是核心超参数:维度过低导致欠拟合,过高则易过拟合。DistMult 常采用 ℓ2 正则化或 Dropout 缓解过拟合,尤其在稀疏医学知识图谱中需谨慎调优。

  3. 负采样与损失函数
    通过随机替换头/尾实体生成负三元组,使用交叉熵损失或 margin-based 排序损失(如 max-margin)训练。最新改进包括自对抗负采样(Self-Adversarial Negative Sampling)以提升鲁棒性。

【医学/神经科学应用场景】

案例:基于多模态知识图谱的脑卒中危险因素与基因-药物关联预测
首都医科大学神经病学团队可整合脑卒中患者的临床数据库、GWAS 基因位点、药物靶点及通路文献,构建多关系知识图谱(如 基因-A 关联-卒中风险, 药物-B 抑制-基因C)。利用 DistMult 学习实体与关系的嵌入表示后,可完成以下任务:

  • 非对称关系规避:由于脑卒中的“危险因素→疾病”关系本质为非对称(如高血压 vs. 卒中),需先对关系进行对称化预处理(如引入逆关系 r^-1),避免 DistMult 的对称性限制。
  • 缺失链接预测:输入待预测三元组 (基因X, 调节, 通路Y),模型输出分数。结合首都医科大学附属宣武医院的真实病例,可筛选出与脑卒中复发相关的未知基因-通路交互,指导后续功能验证。
  • 药物重定位:通过 (药物A, 治疗, 卒中) 三元组分数排序,从现有已获批药物库中推荐可能降低卒中风险的候选分子(如抗高血压药物新适应症)。

该模型计算效率高,适合处理大规模神经疾病知识图谱(如癫痫基因-脑区连接、帕金森病生物标志物网络),但需注意对称性缺陷,通常采用 ComplExRotatE 等扩展模型弥补。