2021 年 7月随笔档案 - ZhiboZhao

谈谈机器学习模型的可解释性

摘要：深度学习一直被认为是一个黑盒子，但是试图对模型的理解仍然是非常必要的。先从一个例子来说明解释神经网络的重要性：古代一个小镇上的一匹马能够做数学题，比如给它一个题目 2+3 ，它踏马蹄 5 下后就会停下，这匹马被当地称作神马汉斯。后来人们发现，汉斯其实并不会做数学题，它通过观察主人的反应来判断什么时候阅读全文

posted @ 2021-07-29 16:39 ZhiboZhao 阅读(654) 评论(0) 推荐(0) 编辑

深度学习中的优化方法（一）

摘要：写在前面：梯度下降法是深度学习优化的基础，因此本文首先探讨一维优化算法，然后扩展到多维。本文根据《最优化导论》(孙志强等译)的内容整理而来，由于笔者水平和精力有限，在此只是在简单层面做一个理解，如果要追求更严谨的数学理论，请大家参考相关书籍。在本文中，我们讨论目标函数为一元单值函数 \(f:R\ri 阅读全文

posted @ 2021-07-27 17:38 ZhiboZhao 阅读(604) 评论(0) 推荐(0) 编辑

C++中的map容器

摘要：一、map的基本概念 **map中所有的元素都是pair，即"key-value"，key起到索引的作用，value是实值。key和value通过一个映射关系来建立联系，**比如在数组中查找所有元素出现的个数，此时元素就是key，而value可以定义为元素的个数，通过对数组进行遍历之后就能对元素进行阅读全文

posted @ 2021-07-26 17:44 ZhiboZhao 阅读(472) 评论(0) 推荐(0) 编辑

C++之vector容器

摘要：一、STL的基本概念 STL（Standard Template Library）标准模板库大体上分为六大组件，分别为容器，算法，迭代器，仿函数，适配器和空间配置器，其中最重要的是容器，算法和迭代器，容器和算法之间通过迭代器无缝连接。容器：各种数据结构，比如vector，list，deque，se 阅读全文

posted @ 2021-07-26 17:43 ZhiboZhao 阅读(504) 评论(0) 推荐(1) 编辑

深度学习中图像上采样的方法

摘要：深度学习中的图像上采样方法所谓上采样，就是将图像从一个较低的尺寸

[C, H, W]

$[C, H, W]$ 恢复到一个较大的尺寸

[C, s H, s W]

$[C, sH, sW]$ ，其中

s

$s$ 是上采样倍数，从小图到大图这一变换过程也叫图像的超分辨率重建。图像超分辨率重建是一个研究很深入的领域，对于大部分的应用场景，我们不需阅读全文

posted @ 2021-07-17 21:18 ZhiboZhao 阅读(4928) 评论(0) 推荐(1) 编辑

深度学习网络模型的轻量化方法

摘要：深度学习网络的轻量化由于大部分的深度神经网络模型的参数量很大，无法满足直接部署到移动端的条件，因此在不严重影响模型性能的前提下对模型进行压缩加速，来减少网络参数量和计算复杂度，提升运算能力。一、深度可分离卷积了解深度可分离卷积之前，我们先看一下常规的卷积操作：对于一张 \(3 \times 1 阅读全文

posted @ 2021-07-17 11:30 ZhiboZhao 阅读(3850) 评论(0) 推荐(0) 编辑

从GAN到WGAN的来龙去脉

摘要：一、原始GAN的理论分析 1.1 数学描述其实GAN的原理很好理解，网络结构主要包含生成器 (generator) 和鉴别器 (discriminator) ，数据主要包括目标样本

x_{r} \sim P_{r}

$x_r \sim P_{r}$ , 随机输入样本

z \sim P_{z}

$z \sim P_{z}$ 。生成器的目的就是根据 \( 阅读全文

posted @ 2021-07-16 22:19 ZhiboZhao 阅读(841) 评论(0) 推荐(0) 编辑

Pytorch的模型加速方法：Dataparallel (DP) 和 DataparallelDistributedparallel (DDP)

摘要：Dataparallel 和 DataparallelDistributed 的区别一、Dataparallel（DP） 1.1 Dartaparallel 的使用方式 Dataparallel 的使用方式比较简单，只需要一句话即可： net = nn.Dataparallel(net, devi 阅读全文

posted @ 2021-07-16 15:51 ZhiboZhao 阅读(3988) 评论(0) 推荐(1) 编辑

C++实现二分法详解

摘要：二分法是在一个排好序的序列（数组，链表等）中，不断收缩区间来进行目标值查找的一种算法，下面我们就来探究二分法使用的一些细节，以及常用的场景：寻找一个数；寻找左侧边界；寻找右侧边界。一、二分法的通用框架 int binarySearch(vector<int>& nums, int targe 阅读全文

posted @ 2021-07-07 22:50 ZhiboZhao 阅读(5135) 评论(0) 推荐(1) 编辑

详解C++中的多态和虚函数

摘要：一、将子类赋值给父类在C中经常会出现数据类型的转换，比如 int-float等，这种转换的前提是编译器知道如何对数据进行取舍。类其实也是一种数据类型，也可以发生数据转换，但是这种转换只有在子类-父类之间才有意义。并且只能将子类赋值给父类，子类的对象赋值给父类的对象，子类的指针赋值给父类的指针，阅读全文

posted @ 2021-07-07 16:50 ZhiboZhao 阅读(1425) 评论(1) 推荐(4) 编辑

详解C++中继承的基本内容

摘要：有些类与类之间存在特殊的关系，有共性也有特性，比如动物类可以细分为猫，狗等。下级别的成员除了拥有上一级的共性，还有自己的特性，这个时候就可以考虑继承的技术，减少重复代码。一、继承中的对象模型 1.1 子类继承父类中的成员变量子类从父类继承的成员变量，是属于子类呢还是属于父类呢？我们定义如下示例：阅读全文

posted @ 2021-07-06 15:09 ZhiboZhao 阅读(1542) 评论(1) 推荐(5) 编辑

C++中运算符的重载

摘要：运算符重载相当于运算符的函数重载，用于对已有的运算符进行重新定义，赋予其另一种功能，以适应不同的数据类型。我们之前提到过C++中的函数重载，可以根据形参的不同调用不同的函数，那么运算符重载跟函数重载的实现形式差不多，运算符重载的一般写法为返回值 operator运算符(参数列表)。下面就根据几个简阅读全文

posted @ 2021-07-05 18:24 ZhiboZhao 阅读(9107) 评论(0) 推荐(2) 编辑

C++中的友元

摘要：前面提到过，在类的封装中，私有的成员变量和成员函数无法在类外访问，但是总有那么一些情况需要给类外的对象赋予一定的访问权限。比如在家里面，客厅是公共访问权限，而每个人的卧室是私有访问权限，对大多数人来说不可访问，但是自己的好朋友可以。同样的道理，在C++中实现这种功能需要借助友元的机制。简单来说就是如阅读全文

posted @ 2021-07-05 11:56 ZhiboZhao 阅读(230) 评论(0) 推荐(0) 编辑

全面解析Pytorch框架下模型存储，加载以及冻结

摘要：最近在做试验中遇到了一些深度网络模型加载以及存储的问题，因此整理了一份比较全面的在 PyTorch 框架下有关模型的问题。首先咱们先定义一个网络来进行后续的分析： 1、本文通用的网络模型 import torch import torch.nn as nn ''' 定义网络中第一个网络模块 Net1 阅读全文

posted @ 2021-07-01 14:52 ZhiboZhao 阅读(1595) 评论(0) 推荐(1) 编辑

ZhiboZhao

07 2021 档案

公告

搜索

常用链接

积分与排名

随笔分类

随笔档案

阅读排行榜

评论排行榜

推荐排行榜

最新评论