摘要: multiprocessing在每创建一个进程时,会将主进程的内存空间原封不动的复制一份到子进程,这样一来内存消耗很容易就翻几倍,导致程序无法运行。 究其原因,是启动进程时采用了os.fork(),使子进程继承父进程全部资源 那么如何解决呢? 1. 最有效的方法:创建完进程后,再加载大内存变量 im 阅读全文
posted @ 2020-02-28 16:26 爱斯特拉冈 阅读(4251) 评论(0) 推荐(0) 编辑
摘要: 问题背景: 我用sqlalchemy_mptt构建了一个多级分类项目,数据库用了sqlite。随着数据条数越来越多,写入速度逐渐变慢,一棵树的插入甚至需要1分钟,远远不能满足需求 分析思路: 1. 批量插入 代码中使用的是 session.add(node) session.commit() 我首先 阅读全文
posted @ 2020-02-12 10:47 爱斯特拉冈 阅读(509) 评论(0) 推荐(0) 编辑
摘要: 开发web服务中,发现当url中含有空格时,会报 400 error: bad request sytanx,经分析,url中含有特殊字符时,服务端可能无法识别。如+,空格,/,?,%,#,&,=等。该如何破呢? 应当使用字符转义,将特殊字符进行编码表示。编码格式是:% + 对应字符的ascii码。 阅读全文
posted @ 2019-05-05 16:06 爱斯特拉冈 阅读(5367) 评论(0) 推荐(0) 编辑
摘要: 有时我们需要对文件进行抽样,这时候只需要一个shell命令就可以抽取固定行数的样本:shuf shuf -n $m $file 参数有2: -n: 抽样行数 -r: 是否重复 阅读全文
posted @ 2019-04-02 14:28 爱斯特拉冈 阅读(568) 评论(0) 推荐(0) 编辑
摘要: scala的模式匹配极其强大,其中有一种用法是用case语句匹配序列和元组。 放码过来: 其中,_表示一个元素,_*表示0个或多个元素 List[_]这种写法可以匹配类型模式,而 @ List(1, _*)可以匹配一个变量绑定的模式 阅读全文
posted @ 2018-12-05 19:48 爱斯特拉冈 阅读(565) 评论(0) 推荐(0) 编辑
摘要: tf.gather:用一个一维的索引数组,将张量中对应索引的向量提取出来 阅读全文
posted @ 2018-12-04 11:25 爱斯特拉冈 阅读(30061) 评论(0) 推荐(3) 编辑
摘要: maven默认的远程库下载起来非常慢,习惯改成aliyun的库。 一、修改maven配置 打开maven配置文件setting.xml,改mirror 二、修改项目pom 只针对单个项目的化,修改pom.xml即可 阅读全文
posted @ 2018-11-30 15:48 爱斯特拉冈 阅读(756) 评论(0) 推荐(0) 编辑
摘要: 当使用case when时,有时会需要对某个字段做子串匹配。如果是在where条件中,我们会直接使用 like '%xx%'来匹配,但case when语句不行 这时需要使用instr函数 examples: 阅读全文
posted @ 2018-11-15 16:57 爱斯特拉冈 阅读(5048) 评论(0) 推荐(1) 编辑
摘要: 需要配合find和rm两个命令完成 显示20分钟前的文件: 删除20分钟前的文件: 具体操作需要掌握find命令的各种参数 https://www.cnblogs.com/wanqieddy/archive/2011/06/09/2076785.html 阅读全文
posted @ 2018-11-09 14:59 爱斯特拉冈 阅读(3071) 评论(0) 推荐(0) 编辑
摘要: 有时我们会碰到升维或降维的需求,比如现在有一个图像样本,形状是 [height, width, channels],我们需要把它输入到已经训练好的模型中做分类,而模型定义的输入变量是一个batch,即形状为 [batch_size, height, width, channels],这时就需要升维了 阅读全文
posted @ 2018-11-09 14:57 爱斯特拉冈 阅读(2402) 评论(0) 推荐(0) 编辑