摘要:
from:http://www.runoob.com/python3/python3-class.html Python3 面向对象 Python从设计之初就已经是一门面向对象的语言,正因为如此,在Python中创建一个类和对象是很容易的。本章节我们将详细介绍Python的面向对象编程。 如果你以前 阅读全文
摘要:
上面的代码对每个隐层进行批标准化,setattr(self, 'fc%i' % i, fc)作用相当于self.fci=fc 每次生成的结果append到bns的最后面,结果的size 10×10,取出这些数据是非常方便 全部的源代码 阅读全文
摘要:
use_relu=0 use_tanh=2 a = 2 if use_relu else (1 if use_tanh else 0)#如果use_relu不等于0,则a等于2;如果use_relu等于0,看use_tanh是否等于0,如果不等于0,则a等于1,否则a等于0 阅读全文
摘要:
from:http://blog.csdn.net/u013989576/article/details/76215989 权值初始化的方法主要有:常量初始化(constant)、高斯分布初始化(gaussian)、positive_unitball初始化、均匀分布初始化(uniform)、xavi 阅读全文
摘要:
import sys import os import argparse import time import random import math import numpy as np import torch import torch.nn as nn import torch.nn.functional as F from torch.autograd import Variable ... 阅读全文
摘要:
1、启动盘制作 首先我们需要登陆“微软中国下载中心”,从中下载一款名为“MediaCreationTool”的工具,利用该工具可以制作Win10安装U盘。直接通过以下地址快速进入“Windows下载中心”,根据自己操作系统的位数选择相应的工具进行下载。 http://www.microsoft.co 阅读全文
摘要:
from:http://www.runoob.com/python/att-time-time.html 描述 Python time time() 返回当前时间的时间戳(1970纪元后经过的浮点秒数)。 语法 time()方法语法: 参数 NA。 返回值 返回当前时间的时间戳(1970纪元后经过的 阅读全文
摘要:
1. sys.exit(n) 退出程序引发SystemExit异常, 可以捕获异常执行些清理工作. n默认值为0, 表示正常退出. 其他都是非正常退出. 还可以sys.exit("sorry, goodbye!"); 一般主程序中使用此退出.2. os._exit(n), 直接退出, 不抛异常, 不 阅读全文
摘要:
一、weight decay(权值衰减)的使用既不是为了提高你所说的收敛精确度也不是为了提高收敛速度,其最终目的是防止过拟合。在损失函数中,weight decay是放在正则项(regularization)前面的一个系数,正则项一般指示模型的复杂度,所以weight decay的作用是调节模型复杂 阅读全文
摘要:
1、梯度裁剪原理(http://blog.csdn.net/qq_29340857/article/details/70574528) 既然在BP过程中会产生梯度消失/爆炸(就是偏导无限接近0,导致长时记忆无法更新),那么最简单粗暴的方法,设定阈值,当梯度小于/大于阈值时,更新的梯度为阈值,如下图所 阅读全文