摘要:
python多进程想必大部分人都用到过,可以充分利用多核CPU让代码效率更高效。 我们看看multiprocessing.pool.Pool.map的官方用法 map(func, iterable[, chunksize]) A parallel equivalent of the map() bu 阅读全文
摘要:
最近一项工作需要读取数据库中1500万条数据,考虑到数据量太大,不方便直接一次性读取,不然会内存爆炸。想到用pandas.read_sql_query()里有一个chunksize可以分批返回chunksize个数据,于是用pandas试了下,代码如下: import pandas as pd fr 阅读全文