摘要: 不同error function比较 阅读全文
posted @ 2016-07-25 22:04 hopskin1 阅读(105) 评论(0) 推荐(0) 编辑
摘要: logistic regression error 交叉熵 linear classification linear regression 哎 我在这个方向上要走多大一步 演算法 iterative optimization logistic regression error长的像山谷 gradie 阅读全文
posted @ 2016-07-25 20:49 hopskin1 阅读(139) 评论(0) 推荐(0) 编辑
摘要: 输出空间 错误衡量方式 能不能直接用linear regression for classification 当成一个分类器回传回去 heuristic(启发式的;试探) 错误衡量 complexity term ERR^ trade bound tightness for efficiency 加 阅读全文
posted @ 2016-07-25 20:23 hopskin1 阅读(340) 评论(0) 推荐(0) 编辑
摘要: Ein的平均,Eout的平均 用这个平均来justify linear regresssion能够用的很好 noise level 资料里有多少的杂讯 等一下要证明的事情 predictions + dagger hat矩阵 为什么叫hat矩阵? y 乘上hat矩阵就加上了一个帽子 统计的人取得名字 阅读全文
posted @ 2016-07-25 18:03 hopskin1 阅读(170) 评论(0) 推荐(0) 编辑
摘要: Linear regression 银行发信用卡的例子 要不要发? 发多少额度? 理想的公式是输出实数的公式 hypothesis长什么样子? 加权求和算一个分数,x0是一个常数 perceptron 有 sign, 有sign取正负号的一步 linear hypothesis长什么样子?二维空间是 阅读全文
posted @ 2016-07-25 17:25 hopskin1 阅读(158) 评论(0) 推荐(0) 编辑
摘要: dual svm 对偶SVM linear SVM 可以用二次规划方法解 xn通过非线性转换变成zn SVM配合非线性特征转换 透过large-margin降低模型复杂度 透过特征转换得到弯弯曲曲的边界 无限维度有没有可能 挺复杂的数学问题,有些问题略过,就好像hoeffding不等式 阅读全文
posted @ 2016-07-25 16:56 hopskin1 阅读(231) 评论(0) 推荐(0) 编辑
摘要: 标准最大margin问题 假设data是linear seperable的 优化目标 希望 margin(w),i.e, 最小的点到直线的距离 最大 即是要得到最右的线,它对噪声的鲁棒性最好 得到的分类器很简单,线一侧为x,另一侧为o 预备知识:点到直线的距离 为了推导方便,不再将截距 bias b 阅读全文
posted @ 2016-07-25 15:50 hopskin1 阅读(334) 评论(0) 推荐(0) 编辑
摘要: standard large margin problem 分割线 阅读全文
posted @ 2016-07-25 14:55 hopskin1 阅读(190) 评论(0) 推荐(0) 编辑
摘要: switch用法 阅读全文
posted @ 2016-07-25 14:38 hopskin1 阅读(124) 评论(0) 推荐(0) 编辑
摘要: vector预分配内存溢出导致原始的 迭代器 失效 consider what happens when you add the one additional object that causes the vector to reallocate storage and move it elsewh 阅读全文
posted @ 2016-07-25 10:35 hopskin1 阅读(245) 评论(0) 推荐(0) 编辑
摘要: vector 当一个vector预分配的存储空间用完之后,为维护其连续的对象数组,它必须在另外一个地方重新分配大块新的(更大的)存储空间,并把以前已有的对象拷贝到新的存储空间中去。 测试结果 Note that the use of reserve( ) is different from usin 阅读全文
posted @ 2016-07-25 10:12 hopskin1 阅读(2185) 评论(0) 推荐(0) 编辑