摘要: 简介 行为型设计模式:关注对象之间的通信 代码 命令模式 ```java package me.maxiaolong.designpattern; /** * @author maxiaolong * created at 2020/7/5 * 命令模式:将一个请求封装为对象,从而使我们可以用不同的 阅读全文
posted @ 2020-07-06 11:28 龍馬 阅读(123) 评论(0) 推荐(0) 编辑
摘要: 简介 结构型设计模式:关注类或者类与对象之间的组合关系,以构建更加复杂的系统 代码 适配器模式 类适配器 ```java package me.maxiaolong.designpattern; /** @author maxiaolong created at 2020/7/4 结构型设计模式:关 阅读全文
posted @ 2020-07-06 11:27 龍馬 阅读(123) 评论(0) 推荐(0) 编辑
摘要: 简介 创建型设计模式:创建对象的同时,隐藏对象创建的细节 代码 简单工厂模式 ```java package me.maxiaolong.designpattern; /** * @author maxiaolong * created at 2020/7/2 * 简单工厂模式,工厂类只需要知道参数 阅读全文
posted @ 2020-07-06 11:26 龍馬 阅读(144) 评论(0) 推荐(0) 编辑
摘要: 单一职责原则 概念:不要存在多余一个导致类变更的原因;即一个类只负责一项职责; 原因:如果类T负责两个不同的职责P1和职责P2,当职责P1需求发生改变而修改类T时,原本运行正常的职责P2可能故障; 优点:降低类的复杂性;提高类的可读性;变更引起的风险降低 里氏替换原则 概念:所有引用基类的地方必须能 阅读全文
posted @ 2020-07-05 17:58 龍馬 阅读(160) 评论(0) 推荐(0) 编辑
摘要: RNN与LSTM详解 RNN RNN 模型: $$ h_t = f(W_xx_t+W_hh_)$$ $$ \hat y_t = \sigma(W_oh_t)$$ 损失函数: $$ L_t = g(\hat y_t)$$ $$ L = \Sigma_^TL_t$$ BPTT随时间反向传播[梯度爆炸和梯 阅读全文
posted @ 2020-04-10 18:30 龍馬 阅读(165) 评论(0) 推荐(0) 编辑
摘要: 优化算法 梯度下降 全批量梯度下降[每次使用全量数据更新产生,易产生内存瓶颈及收敛速度慢] $$\theta = \theta - \eta \nabla_\theta J(\theta) $$ 随机梯度下降[每次使用单个样本进行训练,收敛波动性大] \(\theta = \theta - \eta 阅读全文
posted @ 2020-03-31 20:51 龍馬 阅读(149) 评论(0) 推荐(0) 编辑
摘要: 批归一化和层归一化 批归一化 内部协变量偏移 内部协变量偏移ICS指的是深度神经网络在训练时,随着参数的不断更新,中间隐藏层的输入分布发生较大差异,导致网络需要不断的适应新的数据分布,进而增加了学习难度。[传统解决方案:较小的学习率、合适的初始化参数] 梯度饱和 sigmoid激活函数和tanh激活 阅读全文
posted @ 2020-03-30 14:16 龍馬 阅读(2560) 评论(0) 推荐(0) 编辑
摘要: 模型评估 基本评估指标 准确率 \(Accuracy=\frac{n_{correct}}{n_{total}} \tag{1}\) 精确率和召回率 \(Precision=\frac{TP}{TP+FP} \tag{2}\) $$ Recall=\frac{TP+FN} \tag{3}$$ F1( 阅读全文
posted @ 2020-03-28 19:16 龍馬 阅读(132) 评论(0) 推荐(0) 编辑
摘要: 逻辑回归Logistic Regression 模型 \(P(Y=1|x)=\frac{1}{1+e^{-(w\cdot{x}+b)}}\) 参数估计 使用极大似然估计 $$\begin \begin L(w) &= \Pi_N\sigma(z)(1-\sigma(z)){1-y_i} \ &\Ri 阅读全文
posted @ 2020-03-25 20:56 龍馬 阅读(267) 评论(0) 推荐(0) 编辑