摘要: 1、scrapy可以做什么? Scrapy是一个为了爬取网站数据,提取结构性数据而编写的应用框架。 可以应用在包括数据挖掘,信息处理或存储历史数据等一系列的程序中。其最初是为了页面抓取(更确切来说,网络抓取)所设计的, 也可以应用在获取API所返回的数据(例如Amazon Associates W... 阅读全文
posted @ 2015-08-10 11:48 败八 阅读(357) 评论(0) 推荐(0) 编辑
摘要: Linux系统中的wc(Word Count)命令的功能为统计指定文件中的字节数、字数、行数,并将统计结果显示输出。1.命令格式:wc[选项]文件...2.命令功能:统计指定文件中的字节数、字数、行数,并将统计结果显示输出。该命令统计指定文件中的字节数、字数、行数。如果没有给出文件名,则从标准输入读... 阅读全文
posted @ 2015-08-05 16:17 败八 阅读(180) 评论(0) 推荐(0) 编辑
摘要: 在使用group by 分组查询是,默认分组后,还会排序(Using filesort),可能会降低速度.解决办法:加上order by null 不让它排序select * from emp group by empno order by null;有些情况下,可以使用连接来替代子查询。因为使用... 阅读全文
posted @ 2015-06-02 08:42 败八 阅读(184) 评论(0) 推荐(0) 编辑
摘要: 说起提高数据库性能,索引是最物美价廉的东西了。不用加内存,不用改程序,不用调sql,只要执行个正确的’create index’,查询速度就可能提高百倍千倍,这可真有诱惑力。可是天下没有免费的午餐,查询速度的提高是以插入、更新、删除的速度为代价的,这些写操作,增加了大量的I/O。MySQL的索... 阅读全文
posted @ 2015-06-01 22:09 败八 阅读(277) 评论(0) 推荐(0) 编辑
摘要: 什么是存储引擎? 关系数据库表是用于存储和组织信息的数据结构,可以将表理解为由行和列组成的表格,类似于Excel的电子表格的形式。有的表简单,有的表复杂,有的表根本不用来存储任何长期的数据,有的表读取时非常快,但是插入数据时去很差;而我们在实际开发过程中,就可能需要各种各样的表,不同的表,就意味... 阅读全文
posted @ 2015-06-01 19:29 败八 阅读(295) 评论(0) 推荐(0) 编辑
摘要: 对mysql优化时一个综合性的技术,主要包括表的设计合理化(符合3NF),部分需要反范式;http://www.cnblogs.com/ChaosJu/p/4543210.htmlsql语句优化;http://www.cnblogs.com/ChaosJu/p/4545433.html添加适当索引(... 阅读全文
posted @ 2015-06-01 17:28 败八 阅读(157) 评论(0) 推荐(0) 编辑
摘要: 关系型数据库是现在广泛应用的数据库类型,对关系型数据库的设计就是对数据进行组织化和结构化的过程。对于小规模的数据库我们处理起来还是比较轻松地,但是随着数据库规模的扩大我们将发现用户操控数据库的SQL语句将变得笨拙、复杂。更糟糕的是很有可能导致数据不完整,不准确。所以我们有必要将数据设计的更加符合规范... 阅读全文
posted @ 2015-06-01 09:13 败八 阅读(256) 评论(0) 推荐(0) 编辑
摘要: 接上篇:java多线程(一)http://www.cnblogs.com/ChaosJu/p/4528895.htmljava实现多线程的方式二,实现Runable接口用到设计模式——静态代理模式一.代理模式代理模式的定义 代理模式(Proxy Pattern)是对象的结构型模式,代理模式给某一个... 阅读全文
posted @ 2015-05-26 21:16 败八 阅读(2935) 评论(0) 推荐(0) 编辑
摘要: 一、程序、进程、线程的定义程序: 一段静态的代码,一组指令的有序集合,它本身没有任何运行的含义,它只是一个静态的实体,是应用软件执行的蓝本。进程: 是程序的一次动态执行,它对应着从代码加载,执行至执行完毕的一个完整的过程,是一个动态的实体,它有自己的生命周期。 它因创建而产生,因调度而运行,因等待资... 阅读全文
posted @ 2015-05-25 21:13 败八 阅读(583) 评论(0) 推荐(0) 编辑
摘要: 注:参考http://www.tuicool.com/articles/ia67Bj在ubuntu下如何查看相关用户登录历史,用户操作历史,进行系统的日志跟踪和分析,以便发现系统登录问题,进行安全策略防护呢?作为一个玩Linux的,你需要了如执掌,坐拥ROOT账号,运筹帷幄千里之外!ubuntu下的... 阅读全文
posted @ 2015-05-21 13:25 败八 阅读(6518) 评论(0) 推荐(0) 编辑