Hiroki

大部分笔记已经转移到 https://github.com/hschen0712/machine_learning_notes ,QQ:357033150, 欢迎交流

2016年3月31日

theano中的dimshuffle

摘要: theano中的dimshuffle函数用于对张量的维度进行操作,可以增加维度,也可以交换维度,删除维度。 注意的是只有shared才能调用dimshuffle() 'x'表示增加一维,从0d scalar到1d vector (0, 1)表示一个与原先相同的2D向量 (1, 0)表示将2D向量的两 阅读全文

posted @ 2016-03-31 19:45 Hiroki 阅读(2043) 评论(0) 推荐(0) 编辑

softmax分类器+cross entropy损失函数的求导

摘要: softmax是logisitic regression在多酚类问题上的推广,$W=[w_1,w_2,...,w_c]$为各个类的权重因子,$b$为各类的门槛值。不要想象成超平面,否则很难理解,如果理解成每个类的打分函数,则会直观许多。预测时我们把样本分配到得分最高的类。 Notations: $x 阅读全文

posted @ 2016-03-31 16:37 Hiroki 阅读(10902) 评论(0) 推荐(1) 编辑

BPTT算法推导

摘要: 随时间反向传播 (BackPropagation Through Time,BPTT) 符号注解: $K$:词汇表的大小 $T$:句子的长度 $H$:隐藏层单元数 $E_t$:第t个时刻(第t个word)的损失函数,定义为交叉熵误差$E_t= y_t^Tlog(\hat{y}_t)$ $E$:一个句 阅读全文

posted @ 2016-03-31 16:35 Hiroki 阅读(28232) 评论(6) 推荐(3) 编辑

用keras的cnn做人脸分类

摘要: keras介绍 Keras是一个简约,高度模块化的神经网络库。采用Python / Theano开发。 使用Keras如果你需要一个深度学习库: 可以很容易和快速实现原型(通过总模块化,极简主义,和可扩展性) 同时支持卷积网络(vision)和复发性的网络(序列数据)。以及两者的组合。 无缝地运行在 阅读全文

posted @ 2016-03-31 16:33 Hiroki 阅读(7165) 评论(0) 推荐(0) 编辑

导航