摘要：
把各种熵的好文集中一下，希望面试少受点伤，哈哈哈 1. 条件熵 https://zhuanlan.zhihu.com/p/26551798 我们首先知道信息熵是考虑该随机变量的所有可能取值，即所有可能发生事件所带来的信息量的期望。公式如下： 我们的条件熵的定义是：定义为X给定条件下，Y的条件概率分布 阅读全文
摘要：
几篇讲优化器的好文，mark一下 英文Optimizer overview http://ruder.io/optimizing-gradient-descent/index.html#adam Optimization for Deep Learning http://ruder.io/deep- 阅读全文
摘要：
好文mark 转自机器之心 ：https://www.jiqizhixin.com/articles/2018-06-21-3 “损失函数”是机器学习优化中至关重要的一部分。L1、L2损失函数相信大多数人都早已不陌生。那你了解Huber损失、Log-Cosh损失、以及常用于计算预测区间的分位数损失么 阅读全文
摘要：
转自：http://www.cnblogs.com/dkblog/archive/2011/03/02/1980644.html 法一：isinstance(s, str) 用来判断是否为一般字符串isinstance(s, unicode) 用来判断是否为unicode或if type(str). 阅读全文
摘要：
https://cloud.tencent.com/developer/article/1143127 阅读全文
摘要：
转自：https://www.cnblogs.com/90zeng/p/Lagrange_duality.html 全文： 简易解说拉格朗日对偶（Lagrange duality） 引言：尝试用最简单易懂的描述解释清楚机器学习中会用到的拉格朗日对偶性知识，非科班出身，如有数学专业博友，望多提意见！ 阅读全文
摘要：
文章引起我关注的主要原因是在CoNLL03 NER的F1值超过BERT达到了93.09左右，名副其实的state-of-art。考虑到BERT训练的数据量和参数量都极大，而该文方法只用一个GPU训了一周，就达到了state-of-art效果，值得花时间看看。 一句话总结：使用BiLSTM模型，用动态 阅读全文
摘要：
转自： 机器学习研究会订阅号 死磕论文前，不如先找齐一套好用的工具 机器学习研究会订阅号 今天 还在机器学习论文的海洋里忘我沉沦？先花几分钟学些新工具，不亏，论文阅读、评论、社交、管理、搜索、复现、写作全不误。 作为像深度学习这样高产领域的研究人员，我们经常会发现自己被论文的汪洋所淹没。这些论文是如 阅读全文
摘要：
最近工作需要优化LSTM-CRF经典模型中的维特比解码部分，发现对维特比一直是个模糊概念，没有get到本质，搜了一圈，发现一篇好文，mark 博主不让转载，mark个地址吧： https://blog.csdn.net/xueyingxue001/article/details/52396494 阅读全文
摘要：
python的易上手和pytorch的动态图特性，使得pytorch在学术研究中越来越受欢迎，但在生产环境，碍于python的GIL等特性，可能达不到高并发、低延迟的要求，存在需要用c++接口的情况。除了将模型导出为ONNX外，pytorch1.0给出了新的解决方案：pytorch 训练模型 - 通 阅读全文