摘要:
软件架构师如何进行工作 软件架构师是指在软件项目开发过程中,根据客户的需求以及行业市场等需求将所开发的软件,根据客户的需求以及行业市场的需求将软件所要实现的需求功能转换为规范的软件开发计划及文本,将将软件开发 过程中所涉及的流传的流程与架构进行设计和管理,制定项目的总体架构并指导整个开发团队实施的专 阅读全文
摘要:
《机器学习十讲》——第九讲(深度学习) 应用 图像识别:IMAGENET。 机器翻译:Google神经机器翻译系统。 语音识别: 以往GMM-HMM传统方法一直未有突破,2011年使用DNN后获得较大突破,2015年,IBM再次将错误率降低到6.9%,接近人类的平均水平(4%) 游戏:DeepMin 阅读全文
摘要:
什么是维度灾难? 高维空间的反直觉示例:单位球体积 单位球体积随维数的变化 边界体积占比变化 高维空间中的欧式距离 基于距离的机器学习模型 K近邻:样本间距离 支持向量机:样本到决策面距离 K-Means :样本到聚类中心距离 层次聚类:不同簇之间的距离 推荐系统:商品或用户相似度 信息检索:查询和 阅读全文
摘要:
机器学习的优化目标 梯度下降 三维示意 batch 和 mini-batch 梯度下降 梯度下降SGD 病态条件 局部最小 vs 全局最小 鞍点 平台 梯度爆炸与悬崖 动量法 Nesterov 动量法 受 Nesterov 加速梯度算法 NAG(Nesterov, 1983, 2004) 的启发 梯 阅读全文
摘要:
特征值分解 设A是n阶方阵,如果有常数λ和n维非零列向量α的关系式,Aα = λα 成立,则称 λ 为方阵A的特征值,非零向量 α 称为方阵A的对应于特征值λ的特征向量。 什么是降维? 主成分分析: 主成分分析(Principal Component Analysis, PCA),1901年由Kar 阅读全文
摘要:
数学知识:凸函数与Jensen不等式 什么是聚类?“物以类聚人以群分” 应用举例:客户分群 K-Means 模型 模型求解 固定c,优化r 固定r,优化c K-Means算法流程 高斯混合模型 GMM 的求解 EM 算法 阅读全文
摘要:
模型误差的来源 非线性模型 深度学习 模型集成 为什么能提高效果 增强模型的表达能力 降低误差 假设单个分类器误差p,分类器之间独立,T个分类器采用投票进行预测,得到集成模型H 集成分类器误差为 T = 5,p = 0.1时,e(H) =< 0.01 决策树:把问题问到点子上 决策树:空间的方块划分 阅读全文
摘要:
1. 数学知识回顾:点到平面距离、梯度下降法、最大似然估计 点到平面的距离: 梯度下降法: 随机梯度下降法 最大似然估计: 什么是分类: 如何做分类: 感知机、支持向量机和逻辑回归 训练集的矩阵表示 2. 感知机 感知机的优化目标 感知机算法: 3. 支持向量机 间隔最大化 样本损失函数 优化目标 阅读全文
摘要:
矩阵的逆 NumPy 矩阵求逆函数 numpy.linalg 模块包含线性代数的函数,可计算逆矩阵、求特征值、解线性方程组以及求解行列式等 行列式:np.linalg.det(A) 计算逆矩阵:np.linalg.inv(A) import numpy as np # 格式化numpy输出 np.s 阅读全文
摘要:
《架构设计之CAP定理》,原文链接:https://mp.weixin.qq.com/s/BtHPlZOvy8HNK1TuOrDxLA。 关于CAP定理,之前在数据库课程的学习中曾听老师讲过CAP定理的一些知识。在这篇文章中,作者主要讲的是CAP在分布式结构中的 应用。现在稍微有点规模的互联网项目就 阅读全文