Convolutional Neural Networks on Graphs with Fast Localized Spectral Filtering
概
GCN 和 切比雪夫多项式.
符号
- , 无向连通图, 结点 , 边 , 以及权重 ;
- 信号函数, 赋予每个结点一个值. 比如 MNIST 中的图片, 共有 个结点, 那么每个图片 就可以看成是一个特定的信号;
- , 并用 表示一种特定的信号;
- 为一对角矩阵, 对角线元素为 ;
- 为标准化后的 Laplacian 矩阵, 并假设其特征分解为 .
基于谱的图卷积
-
我们知道, 基于谱的图卷积可以表示为:
其中 中包含可训练的参数.
-
虽然形式简单, 但是一般不具有 localized 性质且参数量往往是 , 对于图本身很大的情况很难适用.
-
但是, 当 关于 是一个'线性函数'的时候, 就有:
此时我们不需要进行 的特征分解了.
-
更特殊的, 为多项式函数的时候:
因为 若 之间的最短路径长度 , 故具备 localized 性质.
-
作者选择 切比雪夫多项式 来作为选择 (看样子和小波和正交基等性质有关系, 具体为何不了解), 阶的切比雪夫多项式定义为:
且它们构成了 的正交基.
-
的值并不能保证在 内, 故用:
替代.
-
所以最后的卷积操作可以归结为:
其中 为
剩下的关于 pooling 的操作这里就不记录了. 记录这些的主要目的其实是发现, 推荐系统中关于 signal 和这种标准的处理方式有很大差别. 其实标准的图卷积, 就是和 CNN 一样, 给定一种数据结构, 然后通过不同的 signal 进行训练, 但是推荐系统中, user, item 的整个图只有一个 signal. 所以用标准的参数的训练方式我想难免会过拟合.
代码
[official]
【推荐】国内首个AI IDE,深度理解中文开发场景,立即下载体验Trae
【推荐】编程新体验,更懂你的AI,立即体验豆包MarsCode编程助手
【推荐】抖音旗下AI助手豆包,你的智能百科全书,全免费不限次数
【推荐】轻量又高性能的 SSH 工具 IShell:AI 加持,快人一步
· Manus重磅发布:全球首款通用AI代理技术深度解析与实战指南
· 被坑几百块钱后,我竟然真的恢复了删除的微信聊天记录!
· 没有Manus邀请码?试试免邀请码的MGX或者开源的OpenManus吧
· 园子的第一款AI主题卫衣上架——"HELLO! HOW CAN I ASSIST YOU TODAY
· 【自荐】一款简洁、开源的在线白板工具 Drawnix