Well Max

摘要： 在深度学习训练中，我们经常遇到 GPU 的内存太小的问题，如果我们的数据量比较大，别说大批量（large batch size）训练了，有时候甚至连一个训练样本都放不下。但是随机梯度下降（SGD）中，如果能使用更大的 Batch Size 训练，一般能得到更好的结果。所以问题来了： 问题来了：当 G 阅读全文

摘要： 大部分情况下，设置这个 flag 可以让内置的 cuDNN 的 auto-tuner 自动寻找最适合当前配置的高效算法，来达到优化运行效率的问题。 一般来讲，应该遵循以下准则： 阅读全文

摘要： （转载自知乎用户@花花） 阅读全文

摘要： conda版本： conda --version 环境信息： 激活环境后，conda info 查看环境已安装包： conda list 新建环境： conda create -n {NAME} [ python={PYTHON_VERSION} ] 可选项为安装Python版本。 移除环境： co 阅读全文

摘要： 表现：24核48线程的机器，极度占用系统CPU资源（约60%） 通过top查看之后可以看到排在首位的是test用户的ld-linux-x86-64任务。 solution： 首先，/etc/passwd中删除test用户； 然后，kill掉ld-linux-x86-64进程。 阅读全文

摘要： 1. IEEE Conference on Computer Vision and Pattern Recognition (CVPR 2019) Location ：Long Beach Convention & Entertainment Center, Los Angeles CA, Unit 阅读全文

摘要： （转载自：WikiPedia） Fine tuning is a process to take a network model that has already been trained for a given task, and make it perform a second similar 阅读全文

摘要： by Jason Brownlee on December 20, 2017 in Better Deep Learning Transfer learning is a machine learning method where a model developed for a task is re 阅读全文

摘要： 我的理解： 经验风险，基于样本学习的经验进行决策的错误风险（或称由样本学习的经验进行决策所造成的损失）。将经验风险最小化，将会使模型对训练样本的学习能力增强，表现为拟合能力增强。显然，一味的经验风险最小化，会使得模型对训练样本过拟合。 期望风险，所谓期望，是对所有可能输入的分布的预测，假定输入的分布 阅读全文

摘要： 注意：本文内容适用于 Tmux 2.3 及以上的版本，但是绝大部分的特性低版本也都适用，鼠标支持、VI 模式、插件管理在低版本可能会与本文不兼容。 Tmux 快捷键 & 速查表 启动新会话： tmux [new -s 会话名 -n 窗口名] 恢复会话： tmux at [-t 会话名] 列出所有会话 阅读全文

摘要： （转载自：https://xmfbit.github.io/2017/08/21/debugging-with-ipdb/） IPDB是什么？IPDB（Ipython Debugger），和GDB类似，是一款集成了Ipython的Python代码命令行调试工具，可以看做PDB的升级版。这篇文章总结I 阅读全文

摘要： （原作：MSRA刘铁岩著《分布式机器学习：算法、理论与实践》。这一部分叙述很清晰，适合用于系统整理NN知识） 线性模型 线性模型是最简单的，也是最基本的机器学习模型。其数学形式如下：g(X;W)=WTX。有时，我们还会在WTX的基础上额外加入一个偏置项b，不过只要把X扩展出一维常数分量，就可以把带偏 阅读全文

摘要： [ a comparison of several popular Graphics cards ] 阅读全文

摘要： PyCharm is a strong IDE for python programmer. Not only because it has a similar face with VS or some other IDEs, but also it provides a convenient wa 阅读全文

摘要： [ File IO ] parameters used in the file IO: 该参数决定了打开文件的模式：只读，写入，追加等。所有可取值见如下的完全列表。这个参数是非强制的，默认文件访问模式为只读(r)。 [ Anaconda 安装通道 ] conda install {PKG_NAME} 阅读全文

摘要： [ 今天最开心的事情！ ] PyTorch的stable版本更新为1.0之后，原本3D模型无脑out of memory、3D模型torch.backends.cudnn.benchmark必须False的问题总算解决了！！！*★,°*:.☆(￣▽￣)/$:*.°★* 。 在训练ResNet50 I 阅读全文

摘要： [ show all running processes ] (1) ps -aux | less 'ps' means: Process Status The -a option tells ps to list the processes of all users on the system r 阅读全文

摘要： Details: https://mirrors.tuna.tsinghua.edu.cn/help/anaconda/ TUNA 提供了 Anaconda 仓库的镜像，运行以下命令: conda config --add channels https://mirrors.tuna.tsinghua 阅读全文

摘要： 三种模式 编辑模式（i当前位置插入光标；a后一位置插入光标）、控制模式（esc）、可视模式（v）。 编辑模式时可以正常输入。 控制模式是vim的核心，通过按键可以快速实现操作。 可视模式是进行选块操作的模式。 选块 按v进入可视模式，而后使用方向键控制光标进行选块，此时可以接收控制模式的快捷键。 控 阅读全文

摘要： 1. 数据库编码格式 gb-2312仅支持简体中文，GBK支持简体、繁体中文，utf-8通用程度最高。 2. HTTP请求方法 get方法请求时，会将传输的数据跟在链接后“显式地”发送，受限于链接长度（一般512B或1024B）； post方法请求，数据传输过程更隐秘，数据的长度不受限。 3. Co 阅读全文