论文推荐:ACMix整合self-Attention和Convolution (ACMix)的优点的混合模型
混合模型ACmix将自注意与卷积的整合,同时具有自注意和卷积的优点。这是清华大学、华为和北京人工智能研究院共同发布在2022年CVPR中的论文
卷积分解与自注意力
卷积分解
标准卷积:
https://avoid.overfit.cn/post/a56a24e0637e4ae38d1e2459a1d82441
混合模型ACmix将自注意与卷积的整合,同时具有自注意和卷积的优点。这是清华大学、华为和北京人工智能研究院共同发布在2022年CVPR中的论文
卷积分解
标准卷积:
https://avoid.overfit.cn/post/a56a24e0637e4ae38d1e2459a1d82441