09 2020 档案
摘要：损失函数梯度 均方误差函数梯度 均方误差表达式： 梯度导数： 交叉熵函数梯度 Softmax 梯度 回顾 Softmax 函数的表达式： Softmax 梯度为： 交叉熵梯度 考虑交叉熵损失函数的表达式： 将log分解： 最终简化求出:
阅读全文
摘要：激活函数导数 Sigmoid 函数导数 导数为: S i g m o i d ( 1 − S i g m o i d ) Sigmoid(1 − Sigmoid) Sigmoid(1−Sigmoid) ReLU 函数导数 LeakyReLU函数导数 Tanh 函数梯度 导数为： 1 − t a n
阅读全文
摘要：matlabplot学习笔记 点击加载详解 https://www.matplotlib.org.cn/tutorials/#%E5%BA%8F%E8%A8%80 点击加载 https://www.matplotlib.org.cn/contents/
阅读全文
摘要：1. 正则表达式的定义 正则表达式是对字符串操作的一种逻辑公式，就是用事先定义好的一些特定字符、及这些特定字符的组合，组成一个“规则字符串”，这个“规则字符串”用来表达对字符串的一种过滤逻辑。 10000 ~ 12数字组合 09876536 长度是否是0开头 正则表达式是对字符串（包括普通字符（例如
阅读全文
摘要：python 魔术方法 常用魔术方法 魔术方法就是一个类的特殊方法，和普通方法唯一的不同时，普通方法需要调用！而魔术方法由系统自动调用。 1.__init__ 初始化魔术方法 触发时机：初始化对象时触发（不是实例化触发，但是和实例化在一个操作中） 参数：至少有一个self，接收对象 返回值：无 作用
阅读全文
摘要：13 多态 1.多态 其他语言中所谓多态，指的是一个方法多种实现，在继承前提下，父类规定了子类的接口，使得可以相同的方式调用子类的方法，但会获得不同的功能。 Python崇尚的是“鸭子类型”（Duck typing），这个概念的名字来源于由James Whitcomb Riley提出的鸭子测试，“鸭
阅读全文
摘要：12 继承 面向对象三大特征：封装、继承、多态 1.继承 面向对象编程 (OOP) 语言的一个主要功能就是“继承”，所谓继承就是使现有的类无需编码便可以拥有原有类的方法和属性。 [外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-5saN3rWf-1599811497068
阅读全文
摘要：类和对象 1 面向对象的思想 面向过程：面向处理，更多的是从计算机角度思考，注重计算每一个步骤，程序更像是一本cpu操作手册。 面向对象：以日常生活的角度思考问题的解决，更接近人的思维方式，让人可以从更高的层面考虑系统的构建 以你请朋友吃饭为例： 面向过程面向对象自己买菜和朋友一块到饭店自己摘菜叫服
阅读全文
摘要：内建异常类的层次 BaseException +-- SystemExit +-- KeyboardInterrupt +-- GeneratorExit +-- Exception +-- StopIteration +-- StopAsyncIteration +-- ArithmeticErr
阅读全文
摘要：错误、异常和文件 1. 异常处理 ***错误***指的是代码有语法问题，无法解释运行，必须改正后才能运行 如果代码没有语法问题，可以运行，但会出运行时的错误，例如除零错误，下标越界等问题，这种在运行期间检测到的错误被称为***异常*** ，出现了异常必须处理否则程序会终止执行，用户体验会很差。Pht
阅读全文
摘要：7 函数 一、集合（set) 特点:不允许有重复元素，如果添加重复元素，则会自动过滤，可以进行交集、并集的运算。 本质：无序且无重复元素的数据结构 1 创建集合 s1 = set() #空集合 不能是{}，这是字典 s2 = {1,2,3,4} print(s1) print(set([30,40,
阅读全文
摘要：6 字符串、元组和字典 一、字符串 字符串就是由若干个不同的unicode字符组成的不可变序列 1 .字符串创建 #单引号字符串 str1 = '天要下雨，娘要嫁人，由他去吧' str2 = str() #空串 str3 = str([10,20,30]) #双引号字符串 str2 = "天要下雨，
阅读全文
摘要：循环和列表 一、列表 在python中，有这样一些类型，它们的成员是有序排列的，并且可以通过下标访问成员，这些类型称之为序列，包括：列表、range、元组和字符串；其中列表的成员可修改，属于可变序列，字符串和元组，成员不可修改，属于不可变序列。序列有共同操作： 成员关系运算（in,not in)连接
阅读全文
摘要：循环和列表 一、循环(***) 1.1 概念 广义：一个周期现象或者重复出现的情况，这种状态被称为循环 狭义：在满足条件的情况下，反复执行某一段代码，在编程语言中出现的这种现象被称为循环。被反复执行的这段代码被称为循环体 当反复执行某段代码时，需要在合适的时机将循环停止下来，否则会产生死循环 Pyt
阅读全文
摘要：循环和列表 一、循环(***) 1.1 概念 广义：一个周期现象或者重复出现的情况，这种状态被称为循环 狭义：在满足条件的情况下，反复执行某一段代码，在编程语言中出现的这种现象被称为循环。被反复执行的这段代码被称为循环体 当反复执行某段代码时，需要在合适的时机将循环停止下来，否则会产生死循环 Pyt
阅读全文
摘要：运算符和表达式 1. 运算符的优先级 尽量不要把一个表达式写的过于复杂，如果遇到复杂的需求，则最好分步运算不要过多的依赖于运算符的优先级，否则代码的可读性太差，在实际的项目开发中，一般采用（） 2 数据类型的转换 python是一种强类型语言：要求运算符两边的操作数必须是同一个类型的，否则必须转换
阅读全文
摘要：1 数据类型 不同类型的变量可以进行的运算是不同的，所以必须理解变量的类型，python中数据类型可以分为： 内置类型 数值类型：整型int，浮点型float，复数（complex） 3+5jstr:字符串bool:布尔值【True，False】None：空值，表示变量没有确定的值list：列表tu
阅读全文
摘要：python编程基础 1. 程序 为了完成某种特定功能，以某种程序设计语言编写的有序指令的集合。程序是指挥cpu工作的“工作手册”。计算机只能执行二进制代码，程序设计语言一般类似英文，想要让计算机理解你写的程序，必须把程序代码“翻译”成计算机能理解的二进制代码，根据翻译形式的不同，可以分为： 编译
阅读全文
摘要：selenium selenium用法 https://selenium-python.readthedocs.io/index.html selenium设置代理 https://blog.csdn.net/xc_zhou/article/details/80823855
阅读全文
摘要：自动求导 打开自动求导功能 tf.GradientTape() import tensorflow as tf x = tf.constant([2.3]) #初始化数据 z = tf.constant([1.]) with tf.GradientTape() as tape: tape.watch
阅读全文
摘要：前向传播 采用的数据集是 MNIST 手写数字图片集，输入节点数为 784，第一层的输出节点数是256，第二层的输出节点数是 128，第三层的输出节点是 10，也就是当前样本属于 10 类别的概率. import tensorflow as tf import tensorflow.keras.da
阅读全文
摘要：误差计算 均方差误差MSE M S E ( y , o ) = 1 n ∑ i = 1 n ( y i − o i ) 2 MSE(y,o)=\cfrac{1}{n}\displaystyle\sum_{i=1}^n(y_i-o_i)^2\\ MSE(y,o)=n1i=1∑n(yi−oi)2
阅读全文
摘要：输出层设计 根据不同的输出层选择不同的激活函数 输出实数空间 𝑜𝑖 ∈ 𝑅𝑑 输出属于整个实数空间，或者某段普通的实数空间，比如函数值趋势的预 测，年龄的预测问题等。 输出[0,1]区间 𝑜𝑖 ∈ [0,1] 输出值特别地落在[0, 1]的区间， 如图片生成，图片像素值一般用[0, 1]
阅读全文
摘要：激活函数 激活函数函数代码Sigmoidtf.nn.sigmoid(x)ReLUtf.nn.relu(x)LeakyReLUtf.nn.leaky_relu(x, alpha)Tanhtf.nn.tanh(x) Sigmoid Sigmoid图像 logistic函数,因为其形状为S型,又称Sigm
阅读全文
摘要：误差loss, E \Epsilon E 误差计算 E = g ( f θ ( x ) , y ) \Epsilon = g(f_\theta(x),y) E=g(fθ(x),y) f θ ( x ) f_\theta(x) fθ(x)为当前模型下y的预测值 g ( . ) g(.) g(.)为
阅读全文
摘要：多层神经网络实现 多层神经网络 张量方式实现 初始化各层调用梯度记录器（自动求导）搭建各层 import tensorflow as tf from tensorflow.keras import layers x = tf.random.normal([3,784])#模拟2个样本，50个特征 w
阅读全文
摘要：全连接的层实现 功能函数代码层实现方式layers.Dense(units, activation)获取 Dense 类的权值矩阵fc.kernel获取 Dense 类的偏置向量fc.bias返回待优化参数列表fc.trainable_variables 层实现 layers.Dense(units
阅读全文
摘要：全连接层的张量实现 单层神经网络的实现 定义好权值张量𝑾和偏置张量𝒃批量矩阵相乘函数 tf.matmul()即可完成网络层的计算偏置向量𝒃与计算完𝑿@𝑾的相加将结果传入激活函数 import tensorflow as tf x = tf.random.normal([2,567])#模拟
阅读全文
摘要：神经网络基础 感知机 公式表达: z = W T x + b , a = σ ( z ) = σ ( W T x + b ) z= W^Tx + b , a = \sigma (z) = \sigma (W^Tx + b) z=WTx+b,a=σ(z)=σ(WTx+b) 通过a与Y的误差调整W与b
阅读全文
摘要：经典数据集操作 功能函数代码加载数据集datasets.Dataset_name.load_data()构建 Dataset 对象tf.data.Dataset_name.from_tensor_slices((x, y))随机打散Dataset_name.shuffle(buffer_size)批
阅读全文
摘要：高级操作函数 功能函数代码根据索引号抽样tf.gather(x,index,axis)根据索引号采集多个样本tf.gather_nd(x,index)掩码采样tf.boolean_mask(x, mask, axis)条件取样tf.where（cond,a,b）刷新张量tf.scatter_nd(i
阅读全文
摘要：填充与复制 功能函数代码填充tf.pad(x,padding)复制tf.tile(x,multiples)限幅tf.maximum(x, a),tf.minimum(x, a) 填充 tf.pad(x,padding)padding 以列表形式传入paddings 是包含了多个[Left Paddi
阅读全文
摘要：张量比较 功能函数代码输出转换为概率tf.nn.softmax(x, axis)张量是否相等tf.equal(a, b)或 tf.math.equal(a,b)大于tf.math.greater小于tf.math.less大于等于tf.math.greater_equal小于等于tf.math.le
阅读全文
摘要：数据统计 功能函数代码范数计算tf.norm(x,ord)最值tf.reduce_max(x,axis)、 tf.reduce_min(x,axis)均值tf.reduce_mean(x,axis)和tf.reduce_sum(x,axis)返回统计最值索引tf.argmax(x, axis)，tf
阅读全文
摘要：声明：代码仅作学习交流用途，代码分享者与创作者不承担任何由他人恶意运行而导致的责任，勿擅自修改限制频率的参数，勿恶意攻击网页，请学习浏览者遵守社会公德与法律秩序，爬虫导致的网页崩溃等损失由计算机操作者负全部责任，造成严重后果的需要承担刑事责任 爬虫代写：邮箱 leon_leon@yeah.net #
阅读全文
