摘要：
MoCo作为一个无监督表征学习工作，在不仅分类而且其他例如检测、分割、人体关键点检测等主流视觉任务上超越了有监督模型（即ImageNet上的预训练模型），这给CV领域吃了一颗定心丸，证明无监督真的可行。Lecun早在2016年就用一张蛋糕图表明如果机器学习是一个蛋糕，强化学习只是上面的一颗樱桃，有监 阅读全文
摘要：
开篇定性如上图 标题：Masked Autoencoder Are Scalable Vision Learners 带掩码的自编码器是一个可拓展的（scalable）视觉学习器 沐神说加入做的模型比较大就用scalable，算法比较快的话就用efficient Masked就是要做完形填空的意思。 阅读全文
摘要：
ViT：如果在足够多的数据上做预训练，直接用NLP中搬来的Transformer也能把视觉问题解决的很好，这打破了视觉和NLP之间模型上的壁垒，所以就开启了多模态领域的快速发展。 在开始读原文之前，这里展示了一个ViT有趣的特性，即在以下四种情况下CNN甚至人眼都难以分辨图片中是一只鸟，而ViT效果 阅读全文
摘要：
机器学习模型有两大类，第一种是分辨模型（这里的分辨我理解为让模型分辨/理解/识别数据），即判断数据的类别或输出一个预测。第二类是生成模型，即生成数据本身 李沐认为GAN的摘要非常简洁，是可以直接写进教科书的写法。如果你提出的是一个全新的东西，并且你认为它是能写进教科书的话，那你整篇文章关键在于讲清楚 阅读全文
摘要：
图的基本概念不再详细描述 有顶点（node, V）、边（edge, E），这里还有一个全局属性（global, U），但不知道具体表示什么 边分为无向的边和有方向的边 三者都是通过向量来表示（embedding） 将图像表示成图的方法：一个像素是一个节点 下图左边是原图，中间是邻接矩阵，右边是图 文 阅读全文
摘要：
摘要 序列转录模型：给你一个序列，生成一个序列 simple network architecture：“简单的模型”不再也不应该是一个贬义词，简单高效应当是值得提倡的 BLEU：机器翻译中的衡量标准 结论 1.transformer是第一个仅使用注意力机制的序列转录模型 2.训练的快 3.tran 阅读全文
摘要：
生源要素中最主要是N，我们在施肥的时候也是氮肥量大 核电站需要水冷却，所以一般建在海边。 这个估计值欺骗性很大，不同的资料不同的人不同的方法估计出来的区别很大。 生物泵：从上往下的方向，及碳的流动方向 泵一般指外力，例如水自然向下，所以水泵就是向上。二氧化碳一般由下向上释放，所以生物泵就是向下固碳 阅读全文
摘要：
海洋中的声光传播属于海洋物理范畴 海洋中有盐，是良性导体，对电磁波吸收严重，不能在海水中传播。 所以我们用声波传送信号。 注意，声波要借助一种介质才能传播，而电磁波反而在真空中传播没有损耗。 电磁是相互感应的，如果传播过程中有电导体进行吸收，反而有损耗。 声波是纵波 质点振动方向和波的传播方向垂直为 阅读全文
摘要：
外界来的就是太阳辐射，也是气候系统最大的驱动力 因为不断接收太阳辐射，所以是开放系统 大气边界层即下面的对流层，自由大气即上面远离界面的地方 深层水是北极下沉，底层水是南极下沉 系统内部熵增原理，只要是不均匀的，就要进行混合 所以，海洋就对气候变化起到一个稳定减缓的过程 植物通过光合作用吸收二氧化碳 阅读全文
摘要：
混合现象是一个很自然的过程，任何一个系统在不加外强迫的情况下，一定是慢慢的开始混合，趋于均匀 一般来说，对于任何一个系统来说，我们希望有秩序（其实这里说的就是熵增，无秩序的问题） 湍流混合要比分子混合效率高得多 流体力学有层流状态和湍流状态，层流有漂亮的理论可以严格的求解，湍流能做的事很少，只能宏观 阅读全文
