小小小的程序猿

2020年2月29日

摘要：算法的简要概述在机器学习问题中，高维度数据进行回归和分类是一个很困难的问题。例如在许多Microarray生物数据上，数据的维度通常是千和万级别，但是由于收集数据需要昂贵的实验，因此可用的训练数据却相当少，通常只有50 300左右，这样的现象通常称为“small samples, large pr 阅读全文

posted @ 2020-02-29 14:13 小小小的程序猿阅读(3381) 评论(0) 推荐(0) 编辑

Sklearn线性模型概述

摘要：在各类比赛中经常出现预测回归问题，一般使用scikit learn的模型，本文就对这些类库的使用做一个总结，总结时注重自己做比赛中的使用经验。 1. Ordinary Least Squares（最小二乘法）最简单的线性模型，损失函数是平方差损失，常用梯度下降法求解参数。使用要点：这个模型不像其阅读全文

posted @ 2020-02-29 14:12 小小小的程序猿阅读(907) 评论(0) 推荐(0) 编辑

LR和SVM等线性模型比较

摘要： Logistic regression Sklearn中自带算法中两个特别的点: 1. 梯度下降法实现相对简单，但是其收敛速度往往不尽人意。所以在sklearn中LR用到的是sag、saga（这两种是梯度下降法的改进）、liblinear、cg（共轭梯度法，最快的梯度下降法）和lbfgs（拟牛顿法的阅读全文

posted @ 2020-02-29 13:24 小小小的程序猿阅读(941) 评论(0) 推荐(0) 编辑

2020年2月23日

博客内容和格式整理想法

摘要：写文章可以帮助我们思考技术和项目的过程，从整体上总结自己的存在的优点和缺点，避免重复错误。但是博客切忌写成流水账，没有文章的结构和重点，看起来十分乏味，所以我这里总结不同博客类型的内容和博客书写应该注意点，希望在以后提高博客的可读性和逻辑性。博客类型总结好的博客需要明确的主题和内容，根据平常工作阅读全文

posted @ 2020-02-23 23:14 小小小的程序猿阅读(741) 评论(0) 推荐(0) 编辑

2019年10月31日

matlab安装matconvnet出错总结

摘要：在安装过程中出现两种错误： 1. mex settup C 出错 2. mex setup C 之后， vl_complilenn出错 3. matconv库需要autoNN和mcnExtraLayers两个库支持， contrib两个库出错！第一种错误出现原因是没有mex编译器或者是没有添加系统阅读全文

posted @ 2019-10-31 18:51 小小小的程序猿阅读(1238) 评论(0) 推荐(0) 编辑

2019年8月27日

Deepctr框架代码阅读

摘要： DeepCtr是一个简易的CTR模型框架，集成了深度学习流行的所有模型，适合学推荐系统模型的人参考。我在参加比赛中用到了这个框架，但是效果一般，为了搞清楚原因从算法和框架两方面入手。在读代码的过程中遇到一些不理解的问题，所以记录在这里。 1. DeepFM模型的整体流程 preprocess_inp 阅读全文

posted @ 2019-08-27 12:21 小小小的程序猿阅读(3368) 评论(0) 推荐(0) 编辑

2019年8月26日

LR的深入理解资料汇集

摘要：今天面试被问到LR的算法的梯度和正则化项，自己不太理解，所以找了一些相关资料，发现LR的算法在梯度下降，正则化和sigmoid函数方面都有很深的研究，期间也发现一些比较好的资料，记录一下。这篇论文推导了LR和最大熵模型之间的关系 http://www.win vector.com/dfiles/L 阅读全文

posted @ 2019-08-26 20:17 小小小的程序猿阅读(552) 评论(0) 推荐(0) 编辑

2019年8月5日

tensorflow实现线性模型和sklearn的线性模型比较

摘要：自己用tensorflow实现了linear模型，但是和sklearn提供的模型效果相比，实验结果差了很多，所以尝试了修改优化算法，正则化，损失函数和归一化，记录尝试的所有过程和自己的实验心得。 import numpy as np import tensorflow as tf import sk 阅读全文

posted @ 2019-08-05 14:13 小小小的程序猿阅读(1186) 评论(0) 推荐(0) 编辑

2019年7月20日

2019腾讯广告大赛总结

摘要：腾讯广告大赛的数据是腾讯系产品投放广告的真实数据，比赛问题直接对标广告投放逻辑的召回广告的CTR问题和排序广告的CTR问题，最后要求预估广告的曝光量。数据类型多样、数据量达上百万至上亿，要求预测曝光量。这类比赛十分对口机器学习和数据挖掘以及推荐算法专业的同学，所以推荐感兴趣的同学积极参加。同时在这里阅读全文

posted @ 2019-07-20 19:16 小小小的程序猿阅读(952) 评论(0) 推荐(0) 编辑

2019年7月10日

几道经典的贪心算法实现

摘要：参考链接:https://blog.csdn.net/weixin_43201538/article/details/86769803 看来左神的算法视频, 其中他总结了几道经典的贪心算法, 但是牛客网没有相应的题目, 就自己找了一下, 用python实现了. 题目1. 切金条题目2. IPO项目阅读全文

posted @ 2019-07-10 14:19 小小小的程序猿阅读(1086) 评论(0) 推荐(0) 编辑

小小小的程序媛