摘要: 提出attention机制,用于机器翻译。 背景:基于RNN的机器翻译 基本思路是首先对语言x进行编码encoder,然后解码decoder为语言y。encoder和decoder可以看做两层RNN? 编码的隐藏层h和解码的隐藏层s RNN encoder-decoder : 1)对输入的sente 阅读全文
posted @ 2017-12-23 16:24 Akane 阅读(1265) 评论(0) 推荐(0) 编辑
摘要: 思路:利用RNN对用户浏览顺序建模,利用FNN模拟CF,两个网络联合学习 RNN网络结构: 输出层的state表示用户浏览的某一页面,可以看做是一个one-hot表示,state0到3是依次浏览的页面。因为RNN的输入个数是有限的,如果用户浏览的过多的页面,那么就会丢失最开始的那些页面,paper为 阅读全文
posted @ 2017-12-23 16:22 Akane 阅读(917) 评论(0) 推荐(0) 编辑
摘要: 最近同事讨论到mae无法作为objective function的事情,因为mae无法求导。用mse作为objective,使用mae作为eval是通常的做法,但是优化不太好。就在网上找了些资料,看是否有好的objective来代替mae的,整理如下: kaggle上的讨论 https://www. 阅读全文
posted @ 2017-11-01 11:41 Akane 阅读(1573) 评论(0) 推荐(0) 编辑
摘要: 官网上mac的安装并不复杂,但是实际操作下来有够吐血的,试了n多方法折腾到凌晨一点。。。。。。 在此详细记录一下以帮助其他踩坑的同学。 前情回顾: 为啥要安装gcc?为了xgboost能够多线程。。。好吧其实我本意并不在此,主要是最简单的单线程我都安装失败了!!就两步简单的操作为什么会失败呢我也不想 阅读全文
posted @ 2017-10-22 11:25 Akane 阅读(1402) 评论(0) 推荐(0) 编辑
摘要: 1、class、field和method 类、属性与方法。这里的field就是java中的 instance variable。 acc、csa就等同于java中的reference variable,它们指向一个具体的object。因为是val,所以它们不能再被赋予其他object。 不过对于它们 阅读全文
posted @ 2017-08-20 23:07 Akane 阅读(175) 评论(0) 推荐(0) 编辑
摘要: 1、Array 变量初始化: 方括号中为类型,后面跟圆括号为参数 这里虽然 greetStrings 是val,但是其中的element是可以被另外赋值的,val只是说这个变量只能是Array[String](3)的对象了。所以array本身仍是mutable。 另外一种初始化的方式 其实是使用了一 阅读全文
posted @ 2017-08-20 23:05 Akane 阅读(149) 评论(0) 推荐(0) 编辑
摘要: java8对于lambda表达式提供了一种简化的形式 //形如 artist -> artist.getName() //可以写成 Artist::getName 只要能使用lambda表达式的地方,就能使用方法引用(method references)。 //形如 artist -> artist 阅读全文
posted @ 2017-07-20 00:16 Akane 阅读(159) 评论(0) 推荐(0) 编辑
摘要: Stream 是用函数式编程方式在集合类上进行复杂操作的工具。 1.collect(toList()) 由 Stream 里的值生成一个列表 List<String> collected = Stream.of("a", "b", "c") .collect(Collectors.toList()) 阅读全文
posted @ 2017-07-20 00:11 Akane 阅读(210) 评论(0) 推荐(0) 编辑
摘要: 基于邻域的算法,就是最常见的CF协同过滤算法。分为 基于用户的 user based CF 和 基于物品的 item based CF. 1.user based CF 对目标用户u, 找出与之相似的用户集合 U,将U中用户感兴趣而u没见过的物品推荐给u. 用户相似度,通过将用户表示成商品的向量后计 阅读全文
posted @ 2017-07-20 00:10 Akane 阅读(938) 评论(0) 推荐(0) 编辑
摘要: 径向基函数网络, RBF network 回忆一下SVM里面的高斯核 radial:描述x与中心点的距离 basis function:用来组合的基本函数 RBFN也是一种NN. RBF网络是对一组RBF的线性组合 RBF也是一种描述相似性的方式,RBFN通过 点与中心的距离(相似性)来做特征转换。 阅读全文
posted @ 2017-06-21 11:26 Akane 阅读(461) 评论(0) 推荐(0) 编辑