随笔- 15 文章- 0 评论- 2 阅读- 11234

04 2021 档案

摘要：评估方法当我们只有一个数据集

D

$D$ 时，为了让模型有更好的泛化能力，我们不能用训练集中的数据作为测试集来评估模型的好坏，而是要将数据集进行处理。以下是一些常用处理方式 1. 留出法直接将数据集

D

$D$ 划分为两个互斥的数据集，分别时训练集

E

$E$ 和测试集

T

$T$ 。为了尽量保证两个数据集有相同的分布，需要采阅读全文

posted @ 2021-04-24 18:39 hikari_1994 阅读(202) 评论(0) 推荐(0) 编辑

深度学习笔记-上溢和下溢

摘要：上溢和下溢下溢：指当一个接近于0的数字被四舍五入为0，这在某些方程中是非常致命的。比如除数下溢，导致程序异常。上溢：当大数量级的数被近似为正负

\infty

$\infty$ 时，之后的运算都可能返回非数字。比如指数运算。对于这两种情况，我们需要进行数值稳定。对Softmax进行数值稳定 softmax函数的阅读全文

posted @ 2021-04-22 21:16 hikari_1994 阅读(1457) 评论(0) 推荐(0) 编辑

线性代数笔记-子空间

摘要：子空间我们在空间中找到其中一部分空间，它里面的向量进行线性组合，结果仍然在这个空间中，这被称为子空间。反例：我们将二维的一象限作为这个部分，它其中的向量线性组合会逃逸出一象限，如将向量乘以一个负数。二维中的正例：整个二维空间一条穿过原点的直线，构成子空间 0向量，因为它无论如何组合都是0 阅读全文

posted @ 2021-04-21 21:38 hikari_1994 阅读(715) 评论(0) 推荐(0) 编辑

tensorflow2学习笔记---模块、层和模型

摘要：模块、层和模型官网模块、层和模型简介 | TensorFlow Core 1. 定义Model和Layer Tensorflow中的Model和Layer的高层实现都构建自tf.Module，例如Keras和Sonnet。在深度学习中Layer和Model都被称为“objects”（对象），并阅读全文

posted @ 2021-04-15 19:55 hikari_1994 阅读(505) 评论(0) 推荐(0) 编辑

tensorflow2学习笔记---Graph和tf.function

摘要：计算图和tf.function 官网 Introduction to graphs and tf.function | TensorFlow Core 1. 概述主要涉及Tensorflow和Keras的处理逻辑，即如何通过对代码进行简单修改来获取计算图，如何存储和表示计算图，以及如何使用它们来加阅读全文

posted @ 2021-04-15 19:50 hikari_1994 阅读(777) 评论(0) 推荐(1) 编辑

tensorflow2学习笔记---梯度和自动微分

摘要：梯度和自动微分官网自动微分和梯度带 | TensorFlow Core 1. Gradient tapes tf.GradientTape API可以进行自动微分，根据某个函数的输入变量来计算它的导数。它会将上下文的变量操作都记录在tape上，然后用反向微分法来计算这个函数的导数。 $y=x^2 阅读全文

posted @ 2021-04-12 20:57 hikari_1994 阅读(732) 评论(2) 推荐(0) 编辑

tensorflow2学习笔记---tensorflow2的变化

摘要：tensorflow2的变化官网 Effective TensorFlow 2 | TensorFlow Core 主要的变化 API Cleanup 删除了一些API： tf.app tf.flags tf.logging 将tf下的一些function移动到了子包，例如tf.math。还有一些阅读全文

posted @ 2021-04-11 15:55 hikari_1994 阅读(296) 评论(0) 推荐(0) 编辑