TransPose: Towards Explainable Human Pose Estimation by Transformer

TransPose: Towards Explainable Human Pose Estimation by Transformer

2021-01-05 21:06:22

 

Paper: https://arxiv.org/pdf/2012.14214.pdf

Code: https://github.com/yangsenius/TransPose

 

1. Background and Motivation: 

本文将 transformer 和 pose estimation 结合在一起，提出 TransPose。核心思想是增强了可解释性。大致的方法如下：

 

 

 

可以看到，是 CNN + transformer 的结构。并且每一个 layer 较好的反映了不同物体之间以及不同 part 的之间的依赖关系。本文的另外的核心观点是，CNN 较好的关注 low-level feature，但是感受野受限，而 Transformer 不存在这种问题。

 

 

 

2. Approach Detail: 

该网络主要由三个部分构成：

1). Backbone network: 本文采用 resnet-50 和 HRNet 作为骨干网络提取 low-level feature； 

2). Transformer Encoder: 

    将 CNN 输出的 feature map 进行 reshape，得到多个向量特征。然后输入到 Transformer 模型中。

3). Prediction Head:  

    首先对 transformer 的输出进行 reshape，得到 C*H*W 的 feature map。然后用 1*1 或者 4*4  conv layers 对得到的 feature vector 进行变换。

 

3. Experiment：