论文信息
论文标题:Simple Contrastive Graph Clustering
论文作者:Yue Liu, Xihong Yang, Sihang Zhou, Xinwang Liu
论文来源:2022,arXiv
论文地址:download
论文代码:download
1 Introduction
贡献:
提出了一种简单的对比深度图聚类方法,称为
提出了一种新的仅在增强的属性空间中进行数据扰动的数据增强方法;
设计了一种新的面向邻居的对比损失,以保持跨视图的结构一致性;
2 Method
2.1 Notations and Problem Definition
2.2 Overall Framework
整体框架:
2.3 Low-pass Denoising Operation
[5, 18, 44] 证明了拉普拉斯滤波器可以达到与图卷积运算相同的效果。所以引入一个低通去噪操作,在训练前将邻居信息聚合作为一个独立的预处理。这样,属性中的高频噪声将被有效地过滤掉。
具体地说,采用了一个图的拉普拉斯滤波器作为公式:
其中,
2.4 Structural Contrastive Module
结构对比模块(SCM),保持两个不同的视图的结构一致性,从而提高网络的鉴别能力。
具体来说,首先用设计的参数非共享MLP编码器对平滑属性
其中,
此外,简单地在
其中,
随后,设计了一种新的面向邻居的对比损失来保持横视图结构的一致性。具体地,计算
其中,
其中,
2.5 Fusion and Clustering
在本节中,以线性的方式融合节点嵌入的两个增强视图,公式如下:
其中,
2.6 Algorithm
SCGC 算法如下:
3 Experiment
数据集
聚类实验
4 Conclusion
本文提出了一种对比深度图聚类方法,即简单对比图聚类(SCGC),从网络架构、数据增强和目标函数等方面改进了现有的方法。至于架构我们的网络主要包括预处理和网络骨干两个部分。具体地说,一个简单的低通去噪操作将邻居信息聚合作为一个独立的预处理。通过该操作,我们有效地过滤掉了属性中的高频噪声,从而提高了聚类性能。此外,只有两个mlp作为骨干。对于数据增强,我们通过设置参数非共享的编码器和破坏节点嵌入来构造不同的图视图,而不是在图上引入复杂的操作。此外,我们提出了一种新的面向邻居的对比损失来保持横视图结构的一致性,从而提高了网络的鉴别能力。得益于SCGC的简单性,它不需要预训练,并且节省了网络训练的时间和空间。值得注意的是,我们的算法优于最近的对比深度聚类竞争对手,平均加速速度至少为7倍。在7个数据集上的大量实验结果证明了SCGC的有效性和优越性。今后,为大规模图数据设计深度图聚类方法是值得尝试的。
5 Reference
[2] Structural deep clustering network
[4] Multi-view attribute graph convolution networks for clustering
[5] Adaptive graph encoder for attributed graph embedding
[11] Contrastive multi-view representation learning on graphs
[15] Variational graph auto-encoders
[17] Augmentation-Free Self-Supervised Learning on Graphs
[18] Deeper insights into graph convolutional networks for semi-supervised learning
[20] Multilayer Graph Contrastive Clustering Network
[21] Deep Graph Clustering via Dual Correlation Reduction
[22] Improved Dual Correlation Reduction Network
[25] Learning graph embedding with adversarial training methods
[26] Symmetric graph convolutional autoencoder for unsupervised graph representation learning
[27] Attention-driven Graph Clustering Network
[29] Adversarial graph embedding for ensemble clustering
[33] Deep Fusion Clustering Network
[39] Attributed graph clustering: A deep attentional embedding approach.
[40] Mgae: Marginalized graph autoencoder for graph clustering
[44] Simplifying graph convolutional networks
[46] Self-supervised Contrastive Attributed Graph Clustering
[47] Multi-view graph embedding clustering network: Joint self-supervision and block diagonal representation
[55] Graph debiased contrastive learning with joint representation clustering.
文章出处登录后可见!