摘要: 部分内容来自于 GiantPandaCV 的文章 论文:https://openaccess.thecvf.com/content/ICCV2021/papers/Yuan_Tokens-to-Token_ViT_Training_Vision_Transformers_From_Scratch_o 阅读全文
posted @ 2022-03-27 22:41 高峰OUC 阅读(297) 评论(0) 推荐(0) 编辑
摘要: a 论文链接:https://arxiv.org/abs/2111.09881 代码链接:https://github.com/swz30/Restormer 1、研究动机 论文的 motivation 非常简单,就是认为CNN感受野有限,因此无法对长距离像素相关性进行建模。因此,想使用 Trans 阅读全文
posted @ 2022-03-25 08:16 高峰OUC 阅读(827) 评论(2) 推荐(0) 编辑
摘要: 【ARXIV2202】Visual Attention Network 论文地址:https://arxiv.org/abs/2202.09741 代码地址:https://github.com/Visual-Attention-Network 一些想法 这个方法看起来非常简单,有些像在Mobile 阅读全文
posted @ 2022-03-18 08:04 高峰OUC 阅读(667) 评论(0) 推荐(0) 编辑
摘要: 【ICLR2022】Not all patches are what you need: Expediting vision transformers via token reorganization 文章链接:https://arxiv.org/abs/2202.07800 代码链接:https: 阅读全文
posted @ 2022-03-18 08:00 高峰OUC 阅读(154) 评论(0) 推荐(0) 编辑
摘要: 【ICLR2022】CrossFormer: A versatile vision transformer 论文:https://arxiv.org/abs/2108.00154 代码:https://github.com/cheerss/CrossFormer 论文代码级的解析推荐阅读 FlyEg 阅读全文
posted @ 2022-02-17 10:11 高峰OUC 阅读(316) 评论(0) 推荐(0) 编辑
摘要: 论文地址:https://arxiv.org/abs/1904.04971 代码(Pytorch版本,网友复现):https://github.com/xmu-xiaoma666/External-Attention-pytorch/blob/master/model/conv/CondConv.p 阅读全文
posted @ 2022-02-15 11:16 高峰OUC 阅读(604) 评论(0) 推荐(0) 编辑
摘要: 论文:【AAAI2022】When Shift Operation Meets Vision Transformer: An Extremely Simple Alternative to Attention Mechanism 代码:https://github.com/microsoft/SPA 阅读全文
posted @ 2022-01-29 20:30 高峰OUC 阅读(237) 评论(0) 推荐(0) 编辑
摘要: 论文:https://arxiv.org/abs/2201.03545 代码:https://github.com/facebookresearch/ConvNeXt Facebook 和 UC Berkeley 的科研人员提出了 ConvNeXt,对标的是2021年最火的 Swin Transfo 阅读全文
posted @ 2022-01-28 14:22 高峰OUC 阅读(195) 评论(0) 推荐(0) 编辑
摘要: 研究小组里初学习深度学习的同学我都布置写过 HybridSN 的代码:https://github.com/OUCTheoryGroup/colab_demo/blob/master/202003_models/HybridSN_GRSL2020.ipynb 最近做SRDP的同学反映,跑 Pavia 阅读全文
posted @ 2022-01-28 11:47 高峰OUC 阅读(257) 评论(0) 推荐(2) 编辑
摘要: 论文:【ICCV2021】Context Reasoning Attention Network for Image Super-Resolution 代码:https://github.com/Ast-363/CRAN (非官方实现) 论文的研究动机是“recent advances in neu 阅读全文
posted @ 2022-01-24 09:33 高峰OUC 阅读(372) 评论(0) 推荐(0) 编辑
摘要: 【CVPR2020】Non-local neural networks with grouped bilinear attention transforms 代码:https://github.com/BA-Transform/BAT-Image-Classification 作者提出了一种名为 b 阅读全文
posted @ 2022-01-23 14:18 高峰OUC 阅读(134) 评论(0) 推荐(0) 编辑
摘要: 部分配色从知乎 marsggbo 的文章转载,同时本文也会不断更新。一个好的配色某种程度上能把翔一样的论文雕出花来,这里做个总结分享。 TIPS:想使用哪个颜色了,可以粘贴到PPT里,用吸管取色。或者用QQ截图,也能得到颜色的具体RGB值。个人感觉配色方案不需要太多,有三、五种供选择完全足够了。 论 阅读全文
posted @ 2022-01-23 09:50 高峰OUC 阅读(4657) 评论(0) 推荐(0) 编辑
摘要: 论文:https://arxiv.org/pdf/2003.12243.pdf 代码:https://github.com/shallowtoil/DRConv-PyTorch (非官方实现) 这个论文的核心词是:动态网络。作者认为,传统卷积对于不同样本使用相同的 filter,如果能够对不同区域的 阅读全文
posted @ 2022-01-22 16:25 高峰OUC 阅读(330) 评论(0) 推荐(2) 编辑
摘要: 论文:https://arxiv.org/abs/2003.08866 代码:https://github.com/zdaxie/SpatiallyAdaptiveInference-Detection 这个论文的关键词是动态网络。如下图所示,动态网络目标是可以对 简单 和 困难 的样本分别 采用不 阅读全文
posted @ 2022-01-22 15:49 高峰OUC 阅读(134) 评论(0) 推荐(0) 编辑
摘要: 论文:https://arxiv.org/abs/2105.02358 代码:https://github.com/MenghaoGuo/EANet B站视频:https://www.bilibili.com/video/BV1ug411M7kL 大部分内容来自论文作者 国孟昊 的B站视频,讲解的非 阅读全文
posted @ 2022-01-18 22:11 高峰OUC 阅读(108) 评论(0) 推荐(0) 编辑
摘要: 论文:https://thefoxofsky.github.io/files/ddf.pdf 代码:https://github.com/thefoxofsky/ddfnet 主页:https://thefoxofsky.github.io/project_pages/ddf 先从论文首页的图说起。 阅读全文
posted @ 2022-01-18 21:55 高峰OUC 阅读(124) 评论(0) 推荐(0) 编辑
摘要: 最近空闲时候看了好几遍李诞的《脱口秀工作手册》,里面讲的道理用于创作真的很好,用在科研上也一样,在这里总结一下,有新的感悟了再随时更新。 关于科研: 科研是一份有创造性的“工作”。 从事科研工作三年,学到的科研能力可以帮助你拿到学位。现在内卷非常严重,意味着你的学位价值可能缩水了。所以,必须要全身心 阅读全文
posted @ 2022-01-14 10:02 高峰OUC 阅读(60) 评论(0) 推荐(0) 编辑
摘要: 本周记录两个论文,Visual saliency transformer 和 Dynamic grained encoder for VIT。 1、【ICCV2021】Vision saliency transformer 这个工作来自起源人工智能研究院和西北工业大学,是想用 Transformer 阅读全文
posted @ 2021-12-04 10:02 高峰OUC 阅读(264) 评论(2) 推荐(0) 编辑
摘要: 过去一年,谷歌提出的VIT成为最火的模型,说明全部由Self-attention组成的模型会超越CNN。但最近学者又在反思,问题的本质是什么? 2021年5月,谷歌挖坑 MLP-Mixer ,说明保持VIT的图像序列化输入,使用全连接网络,就可以取得非常好的性能 2021年10月,ICLR2022的 阅读全文
posted @ 2021-11-29 04:45 高峰OUC 阅读(223) 评论(0) 推荐(0) 编辑
摘要: 小组项目选题今年仍为智能数据处理相关。 近年来,计算机领域科研人员“低龄化”现象明显,越来越多本科生开展科研工作(对于保研、考研、出国、找工作都非常重要),本课程希望同学们能够接受一些科研训练。 调查显示,清华计算机系本科生超过 80% 的有实验室科研经历,每年有 10 余位本科生在国际顶级期刊和会 阅读全文
posted @ 2021-10-25 01:29 高峰OUC 阅读(646) 评论(0) 推荐(1) 编辑
摘要: 很早就听说,黄河口(东营)马拉松是国内唯一不抽签的双金赛事,于是9月开始报名时,便第一时间和小伙伴约好了一起报的半马。赛前一直督促自己,要努力减肥,争取到时候少找几斤赘肉参加比赛。但现实总是啪啪打脸,过去一个月参加了多场聚餐,整天吃吃喝喝,最近根本不敢称体重了。还好我并不是一个严肃的跑者,跑量和配速 阅读全文
posted @ 2021-10-21 03:20 高峰OUC 阅读(115) 评论(0) 推荐(0) 编辑
摘要: 最近给学生布置了猫狗大战的作业,是我自己拍脑袋想的。我发现大多同学做的并太理想,主要原因是因为对pytorch不太熟悉。中秋假期我也做了这个作业,效果虽然并不算好,但可以做为一个范例提供给初学者学习。(其实我写的网络和大家差不多,并不是 LeNet,是一个只有卷积、池化、全连接的简单CNN) 大家普 阅读全文
posted @ 2021-10-20 16:38 高峰OUC 阅读(485) 评论(0) 推荐(1) 编辑
摘要: Rain-Free and Residue Hand-in-Hand: A Progressive Coupled Network for Real-Time Image Deraining, TIP 2021 代码: https://github.com/kuijiang0802/PCNet 1、 阅读全文
posted @ 2021-10-04 20:37 高峰OUC 阅读(294) 评论(0) 推荐(0) 编辑
摘要: 论文:Contrastive Learning for Compact Single Image Dehazing, CVPR 2021 代码:https://github.com/GlassyWu/AECR-Net 1、背景 当前方法的问题:1)使用clear images结合L1/L2重建损失进 阅读全文
posted @ 2021-10-02 17:00 高峰OUC 阅读(530) 评论(0) 推荐(0) 编辑
摘要: 9月的运动是垮掉的,一方面原因是中间有段时间一直在下雨,另一方面是出差也比较多,出差的间隙没有坚持跑步。希望10月可以跑到80以上吧 ~~~ 有时间运动,说跑就跑,真是人生的自由 9月石家庄出差一次,回河北感觉还是最好,呼朋唤友,非常温馨。参加迎新聚餐,做了很多游戏,认识了很多厉害的新同学,大家都很 阅读全文
posted @ 2021-10-01 10:24 高峰OUC 阅读(64) 评论(0) 推荐(0) 编辑