作者|陈雨洁
今天给大家介绍清华大学电子工程系的 Yingheng Wang发表于WWW2021的一项研究工作《Multi-view Graph Contrastive Representation Learning for Drug-Drug Interaction Prediction》,在这项研究中,作者提出一种全新的基于药物的多视角对比学习方法MIRACLE,可以有效地融合药物的不同视角的信息,并作用于药物相互作用的研究。
研究背景
同时服用两种或两种以上的药物,可能会引起一种药物的药理效应在另一种药物的影响下而改变,因此对于药物相互作用的研究至关重要。
现有的对于药物相互作用预测方法的研究存在局限性:一方面,先前的研究工作依赖于“化学、生物或拓扑结构相似的药物更容易有相互作用”的经验假设,主要基于多个相似性的分子指纹的特征进行研究,不过这种方法需要很多专家的先验知识,以及特征工程的操作,比较耗费时间;另一方面,现有的大多数工作只关注药物Graph的单一视角,而DDI相互作用网络中的信息容易被忽略。
因此,清华大学的研究学者提出一种新的基于多视角对比学习的方法MIRACLE,能够同时捕获分子内部(inter-view)的结构信息以及分子间(intra-view)相互作用的关系信息, 并通过使用对比学习的方法来平衡从不同的视角学习到的特征(模型如图1所示),从而得到更准确的药物表示向量,以应用于DDI预测任务。
图1 MIRACLE模型图
研究方法
(1)分子图级结构表示学习(inter-view):基于注意力池化的键感知消息传递网络
针对药物的分子图(由原子和键构成),作者首先定义了消息函数,对于分子图中任意一个节点/原子,将拥有相同键类型的邻居节点信息同时聚合,然后将得到的聚合结果与当前节点在上一层学习到的向量表示拼接,从而得到新的节点表示向量;
其次,为了进一步考虑相邻节点以及上一层学习到的节点向量对中心节点的影响,作者定义了三层变换函数,通过融合门F(fuse gate)、变换门T(transform gate)以及“进位”门C(carry gate),更新节点的表示向量。
在多层消息函数的作用之后,为了更好的融合分子图中所有节点的信息,作者引入了基于注意力的readout层,从而得到最终的分子图级(inter-view)的表示向量g。
(2)DDI相互作用网络表示学习(intra-view):基于双层图卷积网络(GCN)
为了学习到DDI相互作用网络中药物的表示向量,作者采用两层传统的GCN网络,使用上一步学习到的药物图级表示向量g作为GCN网络的节点特征,从而学习分子间的相互作用信息,最后得到intra-view的分子表示向量d。
(3)整合多视角药物表示向量:基于图对比学习框架
考虑到药物分子图级表示向量会在图卷积操作之后,变得平滑而且模糊,为了有效平衡多视角信息,作者提出一个新的图对比学习框架来学习药物的表示向量(如图2所示)。
图 2 对比学习框架
作者提出使用互信息(MI)估计器,以最大化inter-view和intra-view学习到的药物表示的一致性,从而学习药物最终表示向量。作者使用JS互信息估计器,并采用一个对比目标函数,使得任意一个药物(Anchor)的intra-view表示向量与其正样本(Positive)的inter-view表示一致,并且可以与其负样本(Negative)的inter-view表示向量区分开。
(4)药物相互作用预测
在药物相互作用的预测任务中,作者设计两个预测器,通过两个全连接层来预测药物相互作用的概率p,以及仅使用单一的inter-view学习到的药物表示预测相互作用的概率r。在训练的过程中,既能同时最小化真实标签与预测标签的距离,也可以最小化两个不同预测器预测结果的差距,使模型更关注两个不同视角的共性以及两个预测器的一致性。
实验结果
作者选取了三个不同的数据集(ZhangDDI、ChCh-Miner以及DeepDDI),并与10种不同的baseline进行实验,MIRACLE均取得了最优的性能。实验结果证明使用注意力机制学习inter-view的药物表示向量,可以自动选择在DDI反应中形成有意义官能团的最重要原子,同时还能够忽略一些嘈杂且无意义的子结构。此外,通过多视角的对比学习整合多视角信息,可以学习到更全面的药物表示向量。
结论
作者提出一种新的预测药物相互作用的方法,基于端到端的多视角对比学习框架,使用键感知的消息传递网络以及GCN编码器学习不同视角的药物表示。在此基础上,作者提出一种新的基于对比学习的策略,平衡来自不同视角的信息,并使用两个预测器充分利用学习到的信息。经实验证明MIRACLE方法在药物相互作用的预测是有效且高效的。
参考资料
https://arxiv.org/abs/2010.11711
代码
https://github.com/isjakewong/MIRACLE