plumIce

摘要： import torch import torch.nn as nn import torch.nn.functional as F class PCFN(nn.Module): ''' 使用带有GELU的激活函数的1*1卷积对扩展的隐藏空间进行跨信道交互。 然后将隐藏特征分割成两块 对其中一块使用 阅读全文

摘要： import torch import torch.nn as nn import torch.nn.functional as F class DMlp(nn.Module): ''' 用来提取局部特征 ''' def __init__(self, dim, growth_rate=2.0): s 阅读全文

摘要： paper class LinearSelfAttention(nn.Module): """ This layer applies a self-attention with linear complexity, as described in `https://arxiv.org/abs/220 阅读全文

摘要： paper def my_self(x: torch.Tensor): ''' 通过这段代码 可以把每张图片图片中相对位置相同的若干个tokens放到最后两个维度 ''' # [B, C, H, W] -> [B, C, n_h, p_h, n_w, p_w] # n_h是高度方向上可以分多少个pa 阅读全文

摘要： paper class ConvBN(nn.Module): def __init__(self,c1,c2,k=1,s=1,p=None,g=1,d=1): super(ConvBN, self).__init__() if p is None: p=k//2 if isinstance(k,in 阅读全文

摘要： paper import torch.nn as nn import torch class sMLPBlock(nn.Module): ''' 稀疏MLP 不是一个样本的所有特征通过全连接层 而是部分通过全连接层 ''' def __init__(self, W, H, channels): su 阅读全文

摘要： paper 通过密集连接的小卷积核实现细节特征（高频特征提取）提取 import torch.nn as nn class Dense(nn.Module): def __init__(self, in_channels): super(Dense, self).__init__() # self. 阅读全文

摘要： paper 可以借鉴的点：下采样和上次样 融合两个不同尺度特征图 from collections import OrderedDict import torch import torch.nn as nn import torch.nn.functional as F def BasicConv( 阅读全文

摘要： 这也是一个从空间和通道进行创新的 和moganet的创新思路一样 阅读全文

摘要： paper import torch.nn as nn import torch import torch.nn.functional as F def build_act_layer(act_type): """Build activation layer.""" if act_type is N 阅读全文