一
论文题目:MDNN: A Multimodal Deep Neural Network for Predicting Drug-Drug Interaction Events论文摘要:多种药物的相互作用可能会导致严重的事件,从而导致伤害和巨大的医疗成本。对药物-药物相互作用(DDI)事件的准确预测可以帮助临床医生做出有效的决策并制定适当的治疗方案。最近,已经提出了许多基于人工智能的技术来预测DDI相关事件。然而,现有的大多数方法对DDI事件和其他多模式数据(如靶标和酶)之间的潜在相关性关注较少。为了解决这个问题,作者提出了一种用于DDI事件预测的多模态深度神经网络(MDNN)。在MDNN中,作者设计了一个基于药物知识图(DKG)的路径和基于异构特征(HF)的路径两个路径框架来获取药物的多模态表示。最后,设计了一个多模态融合神经层来探索药物多模态表示之间的互补性。作者在真实数据集上进行了广泛的实验。结果表明,MDNN能够准确预测DDI事件,并优于目前最先进的预测模型。
论文链接:https://www.ijcai.org/proceedings/2021/0487.pdfGithub链接:https://github.com/YifanDengWHU/
二
论文题目:Multi-Scale Contrastive Siamese Networks for Self-Supervised Graph Representation Learning论文摘要: 图表示学习在处理图结构数据中起着重要作用。然而,先前关于图表示学习的方法严重依赖于标签信息。为了克服这个问题,受最近图形对比学习和孪生网络在视觉表征学习中的成功启发,作者在本文中提出了一种新的自监督方法,通过多尺度对比学习来增强孪生的自我蒸馏,学习节点表征。具体来说,首先从输入图中生成两个基于局部和全局视角的增强视图。然后,采用两个目标,即跨视图和跨网络的对比性,以最大限度地提高不同视图和网络的节点表征之间的一致性。为了证明所提方法的有效性,作者对五个真实世界的数据集进行了验证实验。本文的方法不仅取得了新的最先进的结果,而且还以很大的幅度超过了一些半监督的对应方法。
论文链接:https://arxiv.org/abs/2105.05682#Github: https://github.com/GRAND-Lab/MERIT
三
论文题目:Geometric Transformer for End-to-End Molecule Properties Prediction论文摘要: 由于transformers能够表示元素之间复杂的相互作用,它已经成为许多应用的首选方法。然而,将Transformer体系结构扩展到分子等非顺序数据并使其能够在小数据集上进行训练仍然是一个挑战。在这项工作中,作者介绍了一种基于Transformer的分子性质预测体系结构,该体系结构能够捕获分子的几何形状。通过对分子几何结构的初始编码以及学习的门控自注意机制来修改经典的位置编码器。进一步提出了一种分子数据的增强方案,该方案能够避免过度参数结构导致的过拟合。该框架在仅基于纯机器学习的情况下,性能优于最先进的方法,即该方法不包含来自量子化学的领域知识,并且除了两两原子距离之外,不使用扩展的几何输入。
论文链接:https://arxiv.org/abs/2110.13721
四
论文题目:
Conditional Self-Supervised Learning for Few-Shot Classification 论文摘要:
如何从有限的样本中学习可转移的特征表示是小样本分类的关键挑战。由于自监督可以提供额外的结构信息,而这些信息很容易被主任务所忽略,因此自监督作为主监督小样本任务的辅助任务被认为是一种可行的解决问题的方法。然而,传统的自监督学习方法往往依赖于大量的训练样本。在缺乏足够样本的情况下,这些自监督方法可能会学习有偏差的表示,这更有可能导致对主要任务的错误指导,最终导致性能下降。在文章中,作者提出了条件自监督学习(conditional self-supervised learning, CSS),利用先验知识指导自监督任务的表示学习。具体来说,CSS利用分层数据中固有的监督信息来形成和改进不需要辅助的未标记数据的自我监督学习特征流形,从而减少表示偏差,挖掘更有效的语义信息。此外,CSS分别通过监督学习和改进的自监督学习来挖掘更有意义的信息,并将信息整合到统一的分布中,进一步丰富和拓宽原有的表示。大量的实验表明,与目前最先进的小样本学习方法相比,作者所提出的方法在没有任何微调的情况下,可以在小样本分类场景中取得显著的精度提高。
论文连接:
https://www.ijcai.org/proceedings/2021/0295.pdf Github链接:
https://github.com/phecy/SSL-FEW-SHOT