【论文阅读】3D Graph Convolutional Networks with Temporal Graphs A Spatial Information Free Framework For Traffic Forecasting
3D Graph Convolutional Networks with Temporal Graphs A Spatial Information Free Framework For Traffic Forecasting
论文基本信息
- 标题:3D Graph Convolutional Networks with Temporal Graphs: A Spatial Information Free Framework For Traffic Forecasting
- 发表日期:3 Mar 2019
- arXiv:1903.00919v1 [cs.LG] 3 Mar 2019
- 作者:
- Bing Yu
- Mengzhang Li
- Jiyong Zhang
- Zhanxing Zhu
解决什么问题
解决了以下三个现存交通预测模型中存在的问题:
- 时空卷积忽略了时间和空间动态性的相互影响:STGCN在空间上使用图卷积,在时间轴上使用一维卷积,但是对时间和空间信息进行单独处理,忽略了空间和时间动态性之间的相互影响。
- 空间信息难以获取:现存的基于图的预测方法使用空间距离或道路连接来构造图,但是一些实践场景中,由于自由编辑地图无法保证实时更新和准确性,导致空间邻接矩阵很难构造;而商业地图服务又昂贵,api也会限制距离计算。
- 忽略了时间模式的相似性:使用空间信息构建邻接矩阵忽略了时间模式的相似性,距离很远的地点可能拥有相似的时间模式,比如办公建筑附近都会在高峰时期产生交通拥堵。
怎么解决问题
- 使用三维图卷积对静态的道路图和时间动态性一起学习。
- 使用动态时间规整度量时间序列相似度,使用节点间时间相似度来构造邻接矩阵。
实验
- 数据集:
- PeMSD7
- PEMS-BAY
原理
- 时间图生成:
- 使用DTW(动态时间规整算法)计算节点之间的时间序列相似度。
- 对每一个节点,取相似度前5%的节点连接,构造邻接矩阵。
- 3D-TGCN:
-
\[\hat{X}_{t,C_o}=\sum_{i=1}^{C_i}\sum_{t'=0}^{K_t-1}\sum_{k=0}^{K-1}\theta_{i,C_o,k,t'}\widetilde{L}^kX_{(t-t'),i},t=K_t,K_{t+1},...,M \]
- \(1\le t\le M\),其中,M是时间序列的长度。
- \(C_i, C_o\):这一三维卷积层的输入和输出的大小(也就是每个节点上特征的数量)。
- \(\theta_{i,C_o,k,t'}\):这一层每个输出通道需要训练的参数。
- \(\Theta_{*\mathcal{G}}X\):卷积符号,其中参数\(\Theta\in\mathbb{R}^{C_i\times C_o\times K_t\times K}\)。
-
- GLU线性门控单元:
- 将卷积输出的所有通道分成两等份,一份为G,另一份为H,GLU的输出为:\(\hat{X}=G\odot\sigma(H)\in\mathbb{R}^{(M-K_t+1)\times C_o}\),其中\(\odot\)是哈达玛积,\(\sigma\)是sigmoid函数。
- 将3D卷积和GLU合起来作为3D图卷积层。
- 损失函数:
-
\[L(\hat{X};\Delta_\theta)=\sum_{t}(\frac{1}{2}\parallel\hat{X}_{t+H}-X_{t+H}\parallel_2^2+\parallel\hat{X}_{T+H}-X_{T+H}\parallel_1) \]
-
代码
由于原文没有提供代码、详细数据集或数据处理方法,难以复现。