随笔分类 - 机器学习与深度学习
摘要：解决RuntimeError: Expected all tensors to be on the same device, but found at least two devices, cuda: https://blog.csdn.net/aminghhhh/article/details/1
阅读全文
摘要：参考：https://jiuaidu.com/jianzhan/574049/
阅读全文
摘要：固定随机种子的步骤请参考：https://zhengyujie.cn/2291.html 这里我主要讲一下模型在复现结果遇到的一些问题。 首先在固定随机种子之后，每次模型训练出来的结果一定是一样的，如果不相同，那么说明训练过程中一定还有一部分随机性操作没有被固定。 将模型参数保存下来，然后加载模型参
阅读全文
摘要：补充 现在安装显卡驱动和cuda，可以只需要执行两个命令即可，但是cuda的版本可能比较低,当然最准确的方式就是手动一步步安装。 在线安装驱动 sudo apt-get purge nvidia-* sudo apt-get update apt search nvidia-driver sudo
阅读全文
摘要：pytorch官方文档 ：https://pytorch.org/docs/stable/index.html 1. pytorch的数学基本运算：https://blog.csdn.net/weicao1990/article/details/93738722 2. pytorch中一些向量的拼接
阅读全文
摘要：参考：https://blog.csdn.net/liujh845633242/article/details/102668515 这里我重点说一下1D卷积，2D卷积很好理解，但是1D卷积就不是那么好理解了，以textcnn为例，在对句子长度进行卷积之后，再将词向量的维度SUM成1维，总而言之，大家
阅读全文
摘要：word2vec：https://www.jianshu.com/p/471d9bfbd72f 基于Hierarchical Softmax: https://www.cnblogs.com/pinard/p/7243513.html 基于Negative Sampling：https://www.
阅读全文
摘要：深度学习入门，里面包含各种基本知识：https://www.zybuluo.com/hanbingtao/note/433855 激活函数：https://blog.csdn.net/weixin_41417982/article/details/81437088 L正则化项和dropout：htt
阅读全文
摘要：1. 交叉验证， 每一折都对应一个模型，例如5折交叉验证就需要训练5个模型。 2. 交叉验证重点在于验证，通过模型在验证集上的表现，来选择相应的参数，交叉验证，会让验证值更为可靠。 3. 对于有独立测试集的数据，用不用交叉验证来调参根据实际情况，这个时候交叉验证是可有可无的，因为只要测试集是一样的，
阅读全文
摘要：本菜鸡的科研之路已经开始两三个月了，期间遇到了很多问题，现在想在这里总结一下。 1. 在阅读深度学习论文的时候，首先需要看看代码是否开源，如果没有开源应该向作者索要源码，然后在本地运行这些代码。这样做是很有必要的，因为深度学习就是一个玄学，论文里故事编的再漂亮也不能work，因此你需要用代码来进行验
阅读全文
摘要：本菜鸟入门机器学习也有一段时间了，有那么一丢丢的感悟，在这里做一点总结。介绍一下机器学习理论和实践的学习心得。 相关教材 数学基础 高数、线性代数这就没啥好说的，就是大学工科的必修科目。 统计机器学习 李航的 蓝皮书 和周志华的 西瓜书 可以说是国内的比较经典的教材，这两位也是国内人工智能领域的领军
阅读全文
摘要：现在做舆情分析的相关项目，在数据处理的时候，发现了一个问题。将数据写入到csv文件，用excel打开（默认）就会出现乱码，如果将数据写入到.xlsx文件就不会出现乱码，因为csv是通用格式，所以我猜想是excel的问题，在网上baidu了一下，发现果然是这样。 https://jingyan.bai
阅读全文
摘要：2018年google推出了bert模型，这个模型的性能要远超于以前所使用的模型，总的来说就是很牛。但是训练bert模型是异常昂贵的，对于一般人来说并不需要自己单独训练bert，只需要加载预训练模型，就可以完成相应的任务。下面我将以情感分类为例，介绍使用bert的方法。这里与我们之前调用API写代码
阅读全文
摘要：Ubuntu16.04使用Anaconda搭建TensorFlow使用环境但是在安装TensorFlow后，import tensorflow报出如下错误： 该问题的错误原因是由于gcc的动态库较老导致的。我们根据ImportError的路径/usr/lib/x86_64-linux-gnu进行查看
阅读全文
摘要：今天突然看到一篇推文，里面讲解了如何薅资本主义羊毛，即如何免费使用Google免费提供的GPU使用权。 可以免费使用的方式就是通过Google Colab，全名Colaboratory。我们可以用它来提高Python技能，也可以用Keras、TensorFlow、PyTorch、OpenCV等等流行
阅读全文
