随笔分类 - 深度学习
摘要:什么是评估机器学习模型 机器学习的目的是得到可以泛化(generalize)的模型,即在前所未见的数据上表现很好的模型,而过拟合则是核心难点。你只能控制可以观察的事情,所以能够可靠地衡量模型的泛化能力非常重要。 如何衡量泛化能力,即如何评估机器学习模型。 评估模型的重点是将数据划分为三个集合:训练集
阅读全文
摘要:目录: 一、TensorFlow使用GPU 二、深度学习训练与并行模式 三、多GPU并行 四、分布式TensorFlow 4.1分布式TensorFlow的原理 4.2分布式TensorFlow模型训练 4.3使用caicloud运行分布式TensorFlow 深度学习应用到实际问题中,一个非常棘手
阅读全文
摘要:为了更好的管理、调试和优化神经网络的训练过程,TensorFlow提供了一个可视化工具TensorBoard。TensorBoard可以有效的展示TensorFlow在运行过程中的计算图。、各种指标随着时间变化的趋势以及训练中使用到的腿昂等信息 一、TensorBoard简介 二、TensorBoa
阅读全文
摘要:目录: 一、TFRecord输入数据格式 1.1 TFrecord格式介绍 1.2 TFRecord样例程序 二、图像数据处理 2.1TensorFlow图像处理函数 2.2图像预处理完整样例 三、多线程数据输入处理框架 3.1 队列与多线程 3.2输入文件队列 3.3组合训练数据(batching
阅读全文
摘要:一、卷积神经网络简介 卷积神经网络(Convolutional Neural Network,CNN)是一种前馈神经网络,它的人工神经元可以响应一部分覆盖范围内的周围单元,对于大型图像处理有出色表现。 它包括卷积层(convolutional layer)和池化层(pooling layer)。 一
阅读全文
摘要:一、MNSIT数据处理 MNSIT是一个非常有名的手写体数字识别数据集。包含60000张训练图片,10000张测试图片。每张图片是28X28的数字。 TonserFlow提供了一个类来处理 MNSIT数据。这个类会自动下载并转化数据结构。 为了方便使用随机梯度下降, 二、神经网络模型训练及不同模型效
阅读全文
摘要:一、深度学习与深层神经网络 深层神经网络是实现“多层非线性变换”的一种方法。 深层神经网络有两个非常重要的特性:深层和非线性。 1.1线性模型的局限性 线性模型:y =wx+b 线性模型的最大特点就是任意线性模型的组合仍然还是线性模型。 如果只通过线性变换,任意层的全连接神经网络和单层神经网络模型的
阅读全文
摘要:一、计算模型 计算图 1.1 计算图的概念:TensorFlow就是通过图的形式绘制出张量节点的计算过程,例如下图执行了一个a+b的操作。 1.2 计算图的使用 TensorFlow程序一般分为两个阶段。第一个阶段定义计算图中的所有计算,第二个阶段执行计算(执行会话)。 阶段一 阶段二 在TF中,系
阅读全文