随笔分类 - AI
摘要:1、《TensorFlow实战》 黄文坚 2、《Machine Learning》 【美】Tom Mitchell 3、《机器学习》 周志华
阅读全文
摘要:批量归一化(BN: Batch Normalization) 1 BN训练 1)随机梯度下降法(SGD)对于训练深度网络简单高效,但是它有个毛病,就是需要我们人为的去选择参数,比如学习率、参数初始化、权重衰减系数、Drop out比例等。这些参数的选择对训练结果至关重要,以至于我们很多时间都浪费在这
阅读全文
摘要:首先要简单区别几个概念:人工智能,机器学习,深度学习,神经网络。这几个词应该是出现的最为频繁的,但是他们有什么区别呢? 人工智能:人类通过直觉可以解决的问题,如:自然语言理解,图像识别,语音识别等,计算机很难解决,而人工智能就是要解决这类问题。 机器学习:机器学习是一种能够赋予机器学习的能力以此让它
阅读全文
摘要:神经网络术语 感知器:这个神经元输出(output) 0或者 1 是由这些输入的加权求和 ∑jwjxj是否大于或者小于某一个阈值(threshold) sigmoid神经元:就像感知器,sigmoid神经元有输入x1,x2,…。但是输入值不仅是0或者1,还可以是0到1的任意值 输入层:神经网络的最左
阅读全文
摘要:机器学习 各种优化器的总结和比较(各种梯度下降算法模型的对比)
阅读全文
摘要:卷积神经网络介绍 卷积神经网络是一种多层神经网络,擅长处理图像特别是大图像的相关机器学习问题。 最典型的卷积网络,由卷积层、池化层、全连接层组成。其中卷积层与池化层配合,组成多个卷积组,逐层提取特征,最终通过若干个全连接层完成分类。 卷积层完成的操作,可以认为是受局部感受野概念的启发,而池化层,主要
阅读全文