一
论文题目：
Directed Graph Contrastive Learning 论文摘要：
图对比学习（GCL）的出现是为了从对比性的视角中学习可概括的表征。目前有两个问题：1）通过数据增强来改变图的结构以产生对比性视图可能会产生错误的信息传递，因为这种图的增强改变了图的内在结构信息，特别是有向图中的方向性结构；2）由于GCL通常使用预定义的对比性视图，并手工挑选参数，它没有充分利用数据增强所提供的对比性信息，导致模型学习的结构信息不完整。在本文中，作者设计了一种名为拉普拉斯扰动的有向图数据增强方法，并从理论上分析了如何在不改变有向图结构的情况下提供对比性信息。此外，作者提出了一个有向图对比学习框架，该框架从拉普拉斯扰动产生的所有可能的对比性视角中进行动态学习。然后，作者使用多任务学习对其进行训练，逐步学习多个从易到难的对比性观点。结果表明，该模型可以比其他GCL模型保留更多的有向图的结构特征，因为它能够提供完整的对比信息。
论文链接：
https://openreview.net/forum?id=yLEcG62ANX Github链接：
https://github.com/flyingtango/DiGCL
二
论文题目：
Deep Molecular Representation Learning via Fusing Physical and Chemical Information 论文摘要：
分子表征学习是结合深度学习和分子科学的第一步，也是至关重要的一步。为了推动分子表征学习的发展，作者提出了PhysChem，一种新型的神经架构，通过融合分子的物理和化学信息来学习分子表征。PhysChem由一个物理网络（PhysNet）和一个化学网络（ChemNet）组成。PhysNet是一个神经物理引擎，通过用参数化的力模拟分子动力学来学习分子构象；ChemNet实现了几何感知的深度信息传递来学习分子的化学/生物医学特性。通过融合物理和化学信息，PhysChem在MoleculeNet上取得了最先进的性能。PhysChem的有效性在SARS-CoV-2的数据集上得到了进一步证实。
论文链接：
https://openreview.net/forum?id=Uxi7X1EqywV Github链接：
https://github.com/PKUterran/PhysChem
三
论文题目：
Self-Supervised Graph Transformer on Large-Scale Molecular Data 论文摘要：
最近的研究将分子表示为图，并采用图神经网络（GNNs）进行分子表征学习。然而，有两个问题阻碍了GNNs在实际应用中的应用。(1) 没有足够的标记分子进行监督训练；(2) 对新合成的分子的概括能力差。为了解决这两个问题，作者提出了一个新的框架，即GROVER，它采用自监督信息传递transformer的图表示。通过设计节点、边和图层面的自监督任务，GROVER可以从无标签分子数据中学习丰富的分子结构和语义信息。为了对这些复杂的信息进行编码，GROVER将信息传递网络整合到Transformer式的架构中，以提供一类更具表现力的分子编码器。GROVER的灵活性使它能够在大规模的分子数据集上进行有效的训练，而不需要任何监督。作者还对GROVER进行了预训练，在1000万个未标记的分子上设置了1亿个参数--这是最大的GNN，也是分子表示学习中最大的训练数据集；然后，作者利用预训练的GROVER进行分子性质预测，再进行特定任务的微调，在11个具有挑战性的基准上，比目前最先进的方法有巨大的改进（平均超过6%）。
论文链接：
https://proceedings.neurips.cc/paper/2020/file/94aef38441efa3380a3bed3faf1f9d5d-Paper.pdf
四
论文题目：
Graph Adversarial Self-Supervised Learning
论文摘要:
本文研究了一个长期存在的问题，即在没有人工监督的情况下学习整个图的表示。最近的自监督学习方法训练模型对输入的转换(视图)保持不变。。然而，设计这些视图需要人类专家的经验。受对抗性训练的启发，作者提出了一种对抗的自监督学习(GASSL)框架，用于在没有任何手工视图的情况下学习图数据的无监督表示。GASSL通过向输入添加扰动自动生成具有挑战性的视图，并针对编码器进行对抗的训练。该方法对最小-最大问题进行了优化，并利用梯度积累策略加快了训练过程。在10个图分类数据集上的实验表明，该方法优于最新的自监督学习，与监督学习相比也具有一定竞争力。
论文链接：
https://openreview.net/forum?id=nVwJse40s1
Github:
https://github.com/LuckyZebra/GASSL
