摘要: 核逻辑回归(Kernel Logistic Regression) SVM 和 Regularization 之间的联系 软间隔支持向量机的原最优化问题为: \[ \begin{aligned} \min _ { b , \mathbf { w } , \xi } & \frac { 1 } { 2 阅读全文
posted @ 2021-04-28 23:24 FlameAlpha 阅读(1945) 评论(0) 推荐(0) 编辑
摘要: 线性回归(Linear Regression) 理论实现 最简单的想法是 \[ y \approx \sum _ { i = 0 } ^ { d } w _ { i } x _ { i } \] 线性回归的假设函数为: \(h(\mathrm{x}) = \mathrm{w}^{T} \mathrm 阅读全文
posted @ 2021-04-28 23:22 FlameAlpha 阅读(210) 评论(0) 推荐(0) 编辑
摘要: 径向基函数网络(Radial Basis Function Network):就是将基假设函数进行线性聚合。 径向基函数网络假设函数(RBF Network Hypothesis) 先回顾一下高斯支持向量机(Gaussian SVM): \[ g _ { \mathrm { svm } } ( \m 阅读全文
posted @ 2021-04-28 23:15 FlameAlpha 阅读(1027) 评论(0) 推荐(0) 编辑
摘要: 在博文各个排序算法的实现与优化(含动画演示)已经将各种排序算法的实现进行了讲解,本文将重点针对其适用场景进行介绍,在介绍各排序算法的使用场景之前,先来温习一下跟时间复杂度有关的一些名词概念: 逆序对:设 A 为一个有 n 个数字的有序集 (n>1),其中所有数字各不相同。如果存在正整数 i, j 使 阅读全文
posted @ 2021-04-28 22:56 FlameAlpha 阅读(1132) 评论(0) 推荐(1) 编辑
摘要: TCP通信就跟谈对象一样就像这样: sequenceDiagram participant boy participant girl opt connect note over boy,girl:双方三次握手连接确定关系 boy->>girl:小姐姐谈对象吗🥰? girl->>boy:好啊,确定关 阅读全文
posted @ 2021-04-28 22:51 FlameAlpha 阅读(91) 评论(0) 推荐(0) 编辑
摘要: 动机(Motivation) 感知机的线性融合(Linear Aggregation of Perceptrons) 中文中的感知器或感知机均指的是Perceptron 。 将 Perceptrons 作为 Linear Aggregation 的基模型,搭配方式的网络结构图图如下所示: 可以看出这 阅读全文
posted @ 2021-04-28 22:49 FlameAlpha 阅读(403) 评论(0) 推荐(0) 编辑
摘要: 主成分分析PCA(Principal Component Analysis),作用是: 聚类 Clustering:把复杂的多维数据点,简化成少量数据点,易于分簇 降维:降低高维数据,简化计算,达到数据降维,压缩,降噪的目的 PCA 的目的就是找到一个低维映射空间,使得数据映射后方差最大。 理论实现 阅读全文
posted @ 2021-04-28 22:48 FlameAlpha 阅读(277) 评论(0) 推荐(0) 编辑
摘要: 什么是机器学习(Machine Learing) 首先我们应该弄清楚什么是学习。 learning: acquiring skill with experience accumulated from observations machine learning: acquiring skill wit 阅读全文
posted @ 2021-04-28 22:28 FlameAlpha 阅读(468) 评论(0) 推荐(0) 编辑
摘要: 非线性转换(Nonlinear Transformation) 前面讲了许多线性模型,但是假如数据并不是线性可分的,该如何处理呢?基本思路是将数据样本(特征)空间 \(\mathcal{X}\) 映射到 \(\mathcal{Z}\) 空间后,在 \(\mathcal{Z}\) 空间数据是线性可分的 阅读全文
posted @ 2021-04-28 22:27 FlameAlpha 阅读(392) 评论(0) 推荐(0) 编辑
摘要: 多分类(Multi-Classification) One-Versus-All (OVA) Decomposition 以逻辑回归为例,其思路是将其中一类和剩下的类分开,做二分类,并对全部类做次操作,这样便有了K个逻辑回归分类器,只要取其中概率最大hypothesis所对应的分类作为分类结果即可。 阅读全文
posted @ 2021-04-28 22:25 FlameAlpha 阅读(472) 评论(0) 推荐(0) 编辑
摘要: 三大学习原则(Three Learning Principles) 奥卡姆剃刀 ‘Occam’s razor’ 引用两个名言 An explanation of the data should be made as simple as possible, but no simpler. —Alber 阅读全文
posted @ 2021-04-28 22:22 FlameAlpha 阅读(263) 评论(0) 推荐(0) 编辑
摘要: 机器学习中特征转换或利用是整个流程中的核心内容,这里介绍三个与之有关的三个主流技术: Embedding Numerous Features: how to exploit and regularize numerous features? \(\rightarrow\) inspires Supp 阅读全文
posted @ 2021-04-28 22:20 FlameAlpha 阅读(249) 评论(0) 推荐(0) 编辑
摘要: dataframe-cpp 在Python上使用dataframe做数据分析是非常便利的,但是c端就没有这么幸运了,暂时没有官方的api供我们使用,所以博主通过前段时间的编写的代码,修改了一个在c端使用的dataframe API。当然经验有限,尚未考虑时间消耗(效率问题),不过对于博主目前的软件使 阅读全文
posted @ 2021-04-28 22:18 FlameAlpha 阅读(1321) 评论(0) 推荐(0) 编辑
摘要: auto关键字 template <class T1,class T2> auto add(T1x,T2 y)->decltype(x+y){ return x+y; } Lambda 表达式 只使用一次的函数对象,能否不要专门为其编写一个类? 只调用一次的简单函数,能否在调用时才写出其函数体? 形 阅读全文
posted @ 2021-04-28 22:16 FlameAlpha 阅读(118) 评论(0) 推荐(0) 编辑
摘要: 标准模板库的算法 STL中的算法大致可以分为以下七类: 不变序列算法 变值算法 删除算法 变序算法 排序算法 有序区间算法 数值算法 特性 : 算法就是一个个函数模板,大多数在<algorithm>中定义 STL中提供能在各种容器中通用的算法,比如查找,排序等 算法通过迭代器来操纵容器中的元素。许多 阅读全文
posted @ 2021-04-28 22:14 FlameAlpha 阅读(218) 评论(0) 推荐(0) 编辑
摘要: 相信大部分人都会实现二叉搜索树,实际上就是根据与当前节点相比的大与小进行整个树的建立。这里部分代码引用的是刘雨波老师的二叉搜索树代码,为了方便关于二叉搜索树其他内容的讲解,代码基本上具有注释,如果哪里写的不明白可以留言,因为我自己也修改了一下,不知道是否存在bug。 具体的功能有: 搜索元素 删除元 阅读全文
posted @ 2021-04-28 22:11 FlameAlpha 阅读(286) 评论(0) 推荐(0) 编辑
摘要: 面向过程设计 实际上就是模块化编程,简单来说就是程序 = 数据结构 + 函数,但是函数和变量是分开的也就是说property和behavior是分割的。 graph LR; A((结构化程序设计)) --> B((模块化编程)) 面向对象设计 graph LR; A[一类事物] -->|抽象| B[ 阅读全文
posted @ 2021-04-28 22:09 FlameAlpha 阅读(125) 评论(0) 推荐(0) 编辑
摘要: 文件操作 顺序文件 : 一个有限字符构成的顺序字符流 cpp标准库中:ifstream,ofstream和fstream共3个类用于文件操作一统称为文件流类,类继承树如下。 使用/创建文件的基本流程: graph LR; a(打开文件)-->b(读/写文件) b-->c(关闭文件) 打开文件 通过指 阅读全文
posted @ 2021-04-28 22:07 FlameAlpha 阅读(349) 评论(0) 推荐(0) 编辑
摘要: 对于硕士研究生的我们做笔记,写文章是必备的技能,经过半年有余的研究生生活,我发现了几种比较好用的编辑工具,这里针对Markdown简单介绍一下,因为学习过程是学生的必经之路,我们应该学会站在巨人的肩膀上,所以学会做笔记是第一步啊!值得一提的是文章中用到了Latex公式语法,这也是一个比较好用的写论文 阅读全文
posted @ 2021-04-28 21:58 FlameAlpha 阅读(214) 评论(0) 推荐(0) 编辑
摘要: 前段时间在看关于迁移学习的一些知识,看到SCL算法的时候有些不解,但是又没人讲解,这里分享一下作者当年的分享视频已上传至哔哩哔哩包括中文字幕版和英文字幕版。也上传至百度云, 提取码:aufv,可以自行保存。如果视频失效,可以留言。 阅读全文
posted @ 2021-04-28 21:56 FlameAlpha 阅读(120) 评论(0) 推荐(0) 编辑