AdaGCN：将传统工具AdaBoost用于深度图神经网络，效果会如何

原作者：CHEONG AI

来源：方法学与学问布谱

本文回馈一篇ICLR 2021的发表文章AdaGCN：Adaboosting Graph Convolutional Networks into Deep Models，AdaGCN建模的基本概念是将传统方法学之中AdaBoost的学说转用到布神经网络平台之中，另外，与先前深层布建模单独填充多个正弦层不同，AdaGCN在所有网络平台层之间包涵相同的神经网络平台架构，然后透过递回提高稳定性，比如说RNN。

Paper：

Github：

一、简短

深度布建模仍是一个必要性研究的情况，关键之西北侧在于如何最大限度凝聚来自多跳跃邻居路由的形态信息。在本文之中，通过将AdaBoost融入到布网络平台之中提出异议了一个比如说RNN的深度布建模AdaGCN，能够以Adaboost的方式高效的取用多跳跃邻居形态信息，不同于先前的深度布建模单独填充多个正弦层，AdaGCN在所有网络平台层之间包涵相同的神经网络平台架构。另外，从理论角度比对了AdaGCN和现有的GCN建模的关联，最后,通过大量的测试，证明了我们的方法在不同的标识率和算出优势下保持一致最现代化的耐用性。

二、建模

首先，可用的两个正弦层的GCN建模乘积如下

其之中输入是路由的Raw Features，可用是经过两个正弦层的之后相关联。ReLU是一个非线性转录算子。但是，我们认为对于多层GCN网络平台不只能太多的非线性变化，原因在于路由形态是简单的给定向量而不是特为的。这个想法在SGC建模也仍未提出异议过，单独将非线性变化ReLU算子转换成的SGC建模的凝聚乘积如下下布

在SGC建模之中，将RuLU操作方法转换成后确实在一定总体上缓和了深度布建模时常再次出现的Over-Smoothing情况，并且算出稳定性也愈来愈快；但是，我们认为，对于这种多层填充的GCN网络平台来说，没有了ReLU操作方法的多层填充线性变换也时会很大总体增高建模的相关联能力也，同时也通过测试证明了这个想法。

因此，在本文之中，我们提出异议了一个新的非线性算子来去掉没有转录算子的线性变换，乘积如下下布

那么，如何使用AdaBoost？实际上就是把深度建模的每一层可用的结果放到一个弱确定性之中算出，并使用了SAMME(Stagewise Additive Modeling using a Multi-class Exponential Loss function)算法将多个弱确定性为锡础上来

如上布下布，我们单独使用锡确定性f算子来取用形态信息，近期层的锡准严重错误均差值以及锡确定性的举例来说以如下方式算出

为了得到一个正的举例来说，只能保障

同时，在传递过程之中向严重错误的路由增锡准重以保障其的差值减少，也就是对耐用性差的确定性给以愈来愈少的举例来说

然后，能用Adaboost方法将不同层的预测结果透过组合，得到之后的预测结果

我们也给以了AdaGCN的简化形势

三、测试

我们是在Cora，Citeseer，Pubmed，MS Academic和Reddit五个数据集上透过了测试，通过run 100次测试取平均来保障结果的置信度，取得了SOTA效果，

并且，如下布下布，随着建模深度增高，建模耐用性不时会因为Over-Smoothing情况而低迷