04 2020 档案
摘要:单下划线、双下划线、头尾双下划线说明: __foo__: 定义的是特殊方法,一般是系统定义名字 ,类似 __init__() 之类的。 _foo: 以单下划线开头的表示的是 protected 类型的变量,即保护类型只能允许其本身与子类进行访问,不能用于 from module import * _
阅读全文
摘要:Attention 机制 1. 什么是Attention? 简而简之,深度学习中的注意力可以被广义地理解为标志重要性的权重向量 为了预测或推断一个元素,例如图像中的像素或句子中的单词,我们使用注意力权重来估计其他元素与其相关的强度,并将由注意力权重加权的值的总和作为计算最终目标的特征。 Step1.
阅读全文
摘要:运行tensorboard.py文件后。执行下面的语句(Ubuntu中执行下面命令)会出现一个网址,复制网址在谷歌或者火狐浏览器中打卡开,就可以在tensorboard中的graph看到图 在命令行中输入 (menpo) queen@queen-X550LD:~/Downloads/py$ tens
阅读全文
摘要:tensorflow中的优化器有很多种,也有很多类似的博客,当然最常用的是AdamOptimizer,我们这里就通过adma和衰减的学习率加上之前学的多层结构,使手写数字模型准确率达到98%以上 以下代码优化地方为: 1.增加2个隐藏层 2. 把权值用了一个截断的正态分布初始化 3. 使用交叉熵代价
阅读全文
摘要:减小过拟合的几种方法: 我们建一个三层的网络,并给他加上droppout 测试一下训练20次的准确率 1 # -*- coding: UTF-8 -*- 2 3 4 import tensorflow as tf 5 from tensorflow.examples.tutorials.mnist
阅读全文
摘要:二次代价函数 C=12n∑x1,...xn∥y(x)−aL(x)∥2C=12n∑x1,...xn‖y(x)−aL(x)‖2 其中,C表示代价函数,x表示样本,y表示实际值,a表示输出值,n表示样本的总数;整个的意思就是把n个y-a的平方累加起来,再除以2求一下均值。 为简单起见,先看下 一个样本 的
阅读全文
摘要:MNIST_data数据 百度网盘链接:https://pan.baidu.com/s/19lhmrts-vz0-w5wv2A97gg提取码:cgnx # -*- coding: UTF-8 -*- import tensorflow as tf from tensorflow.examples.t
阅读全文
摘要:该程序有输入层,中间层和输出层 运行环境:ubuntun (menpo) queen@queen-X550LD:~/Downloads/py $ python nonliner_regression.py # -*- coding: UTF-8 -*- #定义一个神经网络:输入层一个元素,中间层10
阅读全文
摘要:数据结构:数据结构是相互有关联的数据元素的集合。主要研究数据的逻辑结构,存储结构以及数据的运算。 数据的逻辑结构:反映数据元素之间的逻辑关系。包括线性结构和非线性结构 数据的存储结构:数据的逻辑结构在计算机存储空间中的存放形式成为数据的存储结构。常用的存储结构包括顺序、链接、索引等存储结构 栈是限定
阅读全文
摘要:什么是计算机网络:计算机网络是指将地理位置不同的具有独立功能的多台计算机及其外部设备,通过通信线路连接起来,在网络操作系统,网络管理软件及网络通信协议的管理和协调下,实现资源共享和信息传递的计算机系统。 OSI七层协议:物理层,数据链路层,网络层,运输层,会话层,表示层,应用层 应用层:所有能产生网
阅读全文