随笔分类 - 4_深度学习（keras、tersorflow2、数据集、pytorch、深度学习花书等）
摘要：深度学习花书笔记 0、读大纲 一、总结 一句话总结： 第一部分：【应用数学与机器学习基础】：也就是【线代、概率论】等数学基础 第二章：线性代数第三章：概率与信息论第四章：数值计算（上溢和下溢、病态条件、约束优化等）第五章：机器学习基础（机器学习的一些概念，比如数据集啥的） 第二部分：【深度网络：现代
阅读全文
摘要：201021_Deep_Learning 1.0、Introduction 一、总结 一句话总结： Books in Chinese and English can be read together for easy understanding. If you take notes, use Eng
阅读全文
摘要：归一化、标准化、正则化的概念和区别（总结） 一、总结 一句话总结： 归一化（Normalization）：【把数据变为（0，1）之间的小数，比如min-max归一化】。主要是为了方便数据处理，因为将数据映射到0～1范围之内，可以使处理过程更加便捷、快速。 标准化（Standardization）：【
阅读全文
摘要：深度学习模型调优方法（总结） 一、总结 一句话总结： 超参数的优化，其它比如正则化（regularization）、丢弃参数（dropout）、提前停止训练（early stopping） 1、如何判断模型好坏？ 【查看loss和accuracy】：通过模型训练跑代码，我们可以分别从训练集和测试集上
阅读全文
摘要：变分自编码器 一、总结 一句话总结： 【将概率图跟深度学习结合起来的一个非常棒的案例】：总的来说，VAE的思路还是很漂亮的。倒不是说它提供了一个多么好的生成模型（因为事实上它生成的图像并不算好，偏模糊），而是它提供了一个将概率图跟深度学习结合起来的一个非常棒的案例，这个案例有诸多值得思考回味的地方。
阅读全文
摘要：Tensorflow2课程 1、课程介绍 一、总结 一句话总结： 二、Tensorflow2课程介绍 博客对应课程的视频位置：1、课程介绍-范仁义-读书编程笔记https://www.fanrenyi.com/video/42/367 Tensorflow是深度学习比较常用的框架 1、课程特色 1）
阅读全文
摘要：《python深度学习》笔记 9.3、深度学习的未来 一、总结 一句话总结： 【模型将变得更像程序，其能力将远远超出我们目前对输入数据所做的连续几何变换】：这些程序可以说是更加接近于人类关于周围环境和自身的抽象心智模型。因为它们具有丰 富的算法特性，所以还具有更强的泛化能力。 【具体而言，模型将会融
阅读全文
摘要：《python深度学习》笔记 9.2、深度学习的局限性 一、总结 一句话总结： 【深度学习不能做任何推理的工作】：一般来说，任何需要推理（比如编程或科学方法的应用）、长期规划和算法数据处理的东西，无 论投入多少数据，深度学习模型都无法实现。 【深度学习对排序都难做】：即使是排序算法，用深度神经网络来
阅读全文
摘要：《python深度学习》笔记 9.1、深度学习知识回顾 一、总结 一句话总结： 【深度学习可能在几年的时间里被夸大炒作，但从长远来看，它仍然是一场改变我们经济和生活的重大革命】：炒作很可能会烟消云散，但深度学习带来的持久经济影响和技术影响将会永远持续 下去。从这个意义上来讲，深度学习与互联网很类似：
阅读全文
摘要：《python深度学习》笔记 8.5、生成式对抗网络简介 一、总结 一句话总结： 【gan可以替代VAE来学习图像的潜在空间，它能够迫使生成图像与真实图像在统计上几乎无法区分】：生成式对抗网络（GAN，generative adversarial network）由Goodfellow 等人于201
阅读全文
摘要：《python深度学习》笔记 8.4、用变分自编码器生成图像 一、总结 一句话总结： 【用深度学习进行图像生成，就是通过对潜在空间进行学习来实现的】：这个潜在空间能够 捕捉到关于图像数据集的统计信息。通过对潜在空间中的点进行采样和解码，我们可以 生成前所未见的图像。这种方法有两种重要工具：变分自编码
阅读全文
摘要：《python深度学习》笔记 8.3、神经风格迁移 一、总结 一句话总结： 神经风格迁移是指将参考图像的风格应用于目标图像，同时保留目标图像的内容。 1、“神经风格迁移是指将参考图像的风格应用于目标图像，同时保留目标图像的内容” 中的风格和内容分别指什么？ 【风格（style）是指图像中不同空间尺度
阅读全文
摘要：《python深度学习》笔记 8.2、DeepDream 一、总结 一句话总结： 【艺术性的图像修改技术】：DeepDream 是一种艺术性的图像修改技术，它用到了卷积神经网络学到的表示。 【迷幻图像】：它很快在网上引起了轰动，这要归功于它所生成的迷幻图像，图像中充满了算法生成的错觉式伪影、鸟羽毛和
阅读全文
摘要：《python深度学习》笔记 8.1、使用LSTM生成文本 一、总结 一句话总结： 其实原理非常简单，就是单层的LSTM把训练数据中单词与字符的统计规律学好，然后softmax层相当于分类对应到词表中的各个字符的概率 from tensorflow.keras import layers model
阅读全文
摘要：《python深度学习》笔记 7.3.3、模型集成 一、总结 一句话总结： 【集成是指将一系列不同模型的预测结果汇集到一起，从而得到更好的预测结果】：想要在一项任务上获得最佳结果，另一种强大的技术是模型集成（model ensembling）。集 成是指将一系列不同模型的预测结果汇集到一起，从而得到
阅读全文
摘要：《python深度学习》笔记 7.3.2、超参数优化 一、总结 一句话总结： 【架构层面的参数叫作超参数】：这些在架构层面的参数叫 作超参数（hyperparameter），以便将其与模型参数区分开来，后者通过反向传播进行训练。 1、神经网络中的 超参数是什么，有哪些？ 应该堆叠多少层？每层应该 包
阅读全文
摘要：《python深度学习》笔记 7.3.1、高级架构模式 一、总结 一句话总结： 残差连接，标准化和深度可分离卷积 1、标准化？ 【归一化也是标准化】：将数据减去其平均值使其中心为0，然后将数据除以其标准差使其标准 差为 1。实际上，这种做法假设数据服从正态分布（也叫高斯分布），并确保让该分布的中心为
阅读全文
摘要：《python深度学习》笔记 7.2.2、TensorBoard 来检查并监控深度学习模型 一、总结 一句话总结： 使用TensorFlow 时，TensorBoard 是一种在浏览器中将模型活动可视化的好方法。在 Keras 模型中你可以通过 TensorBoard 回调函数来使用这种方法。 1、
阅读全文
摘要：《python深度学习》笔记 7.2.1、使用 Keras 回调函数 一、总结 一句话总结： 【在训练过程中的不同时间点都会被模型调用】：回调函数（callback）是在调用 fit 时传入模型的一个对象（即实现特定方法 的类实例），它在训练过程中的不同时间点都会被模型调用。 【中断训练、保存模型、
阅读全文
摘要：《python深度学习》笔记 7.1、Keras函数式API 一、总结 一句话总结： 【Sequential API功能有限】：如果你需要实现的架构不仅仅是层的线性堆叠，那么不要局限于 Sequential API。 【函数式API用来构建复杂模型】：如何使用Keras 函数式API 来构建多输入模
阅读全文
