随笔分类 - tensorflow2基础
摘要：一、自编码器引入 二、自编码器三种变体 三、基本自编码器实战 import os import numpy as np import tensorflow as tf from tensorflow import keras from PIL import Image from matplotlib
阅读全文
摘要：一、数据集加载步骤 1、获得图片路径列表给x，获得标签列表给y. 2、将数据集装载到dataset。 3、打乱，用map()函数读取图片数据。 （1） images and labels ▪ 𝑋 = [1. 𝑝𝑛𝑔, 2. 𝑝𝑛𝑔, 3. 𝑝𝑛𝑔, … ] ▪ 𝑌 = [4,9
阅读全文
摘要：一、GRU原理 二、LSTM_cell实战 import os os.environ['TF_CPP_MIN_LOG_LEVEL']='2' import tensorflow as tf import numpy as np from tensorflow import keras from te
阅读全文
摘要：一、基础模型 1、这种模型，句子长的话，权值参数多、不能记住上下文信息。 2、参数共享，并增加记忆功能。 3、公式化表示RNN 二、RNN维度解析 1、如图，假设x的维度[batch, seq_len, embedding_len]是[b, 80, 100]，则在t时刻，Xt的形状是[b, 100]
阅读全文
摘要：一、基础 二、ResNet18 import tensorflow as tf from tensorflow import keras from tensorflow.keras import layers, Sequential class BasicBlock(layers.Layer): d
阅读全文
摘要：一、不进行归一化，某些W变化对loss影响较大 二、进行归一化 1、可以看到，Batch Norm结束后，只得到三个数值，每个通道一个。 2、正常的Batch Norm过后，均值为0，方差为1，但是需要再加一个贝塔和伽马。（B,r）需要学出来。 变成了均值为B，方差为r。 三、用法 1、下面的cen
阅读全文
摘要：一、网络结构 二、代码 import os os.environ['TF_CPP_MIN_LOG_LEVEL']='2' import tensorflow as tf from tensorflow.keras import layers, optimizers, datasets, Sequen
阅读全文
摘要：一、最大池化的类方法和函数式方法 二、上采样 三、RELU的类风格和函数式风格
阅读全文
摘要：一、基本概念 1、 看图：我们假设几个变量，N是卷积核的个数，B是batch_size，C是通道数，如RGB三个通道。 如下所示：X中b是batch_size，最后一个3是通道数。 one K 中第一个3是通道数，后面两个3是卷积大小3*3. multi-K 中第一个16是N，指的是有16个卷积。b
阅读全文
摘要：一、提前停止 ▪ Validation set to select parameters ▪ Monitor validation performance ▪ Stop at the highest val perf. 二、DroupOut 注意：在训练时，要加上Training=True，其他都是
阅读全文
摘要：一、动量 1、普通梯度更新与加上动量的梯度更新。 解释：原先更新的方向是梯度方向，现在多了一个Z方向，即现在是结合了历史惯性。 二、学习率缓慢减少 解释：学习率太大和太小都不太好
阅读全文
摘要：一、减少过拟合 奥卡姆剃刀原理：没必要的东西尽量少用。 因此过拟合有以下几种： （1）更多数据 （2）限制网络复杂性：使用浅层网络、新数据集使用大网络后加惩罚。 （3）droupout （4）数据增强 （5）用验证数据早停。 二、损失函数加惩罚 1、原始 2、加惩罚项以后 三、加惩罚项方法 1、ke
阅读全文
摘要：一、数据集分割 1、训练集、测试集 2、训练集、验证集、测试集 步骤： （1）把训练集60K分成两部分，一部分50K，另一部分10K。 （2）组合成dataset，并打乱。 二、训练过程评估 1、训练的过程评估 其中，第二行是训练，总轮数是5，每两轮做一次评估，达到的效果好的话提前停止。 2、在测试
阅读全文
摘要：一、代码 import tensorflow as tf from tensorflow.python.keras import datasets, layers, optimizers, Sequential, metrics from tensorflow.python import keras
阅读全文
摘要：一、第一种：只保存权值 import tensorflow as tf from tensorflow.python.keras import datasets, layers, optimizers, Sequential, metrics import os os.environ['TF_CPP
阅读全文
摘要：一、讲解 二、代码 import tensorflow as tf from tensorflow.python.keras import datasets, layers, optimizers, Sequential, metrics from tensorflow.python import
阅读全文
摘要：一、简介 不用keras时候： 二、用keras简写训练过程 现在的写法，首先指定下面的compile以后，直接在下面fit一下，然后这个epoch就是指定上涨图片中的sclice中的10，就是10次epoch,每次traning的loss是按照下面的traing计算，得到一个gradient以后，
阅读全文
摘要：一、Keras五大功能 二、评估指标用法 有一个现成的准确度的meter就是 m e t r i c s . A c c u r a c y ( ) metrics.Accuracy()metrics.Accuracy()。如果只是简单的求一个平均值的话，有一个更加通用的meter就是 m e t
阅读全文
摘要：一、概况 其中visdom显示界面可以看出更加的丰富，可以画各种各样的图像。 二、安装与工作原理 pip install tensorboard cpu运行一个程序，有一个tensor在这里流动；它会磁盘的某一个目录写数据；比如写在目录logs，写在这个目录下面以后，这个目录对应的文件格式就会被更新
阅读全文
摘要：一、代码 import tensorflow as tf from tensorflow import keras from tensorflow.keras import datasets, layers, optimizers, Sequential, metrics import os os.
阅读全文