TODO

1、搜索引擎原理——从索引、搜索、facet底层原理看搜索引擎的本质
2、开源搜索引擎分析——lucene(ES、Solr)、sphinx、wukong、bleve、poseidon、indextank-engine
3、商业搜索引擎Splunk介绍——性能,架构,底层窥探
4、提升CIS智能检索性能的方案——站在巨人肩上
从业务特点(写多余读,追加为主,删除过时数据)说起——时间范围分片,排序时间,放弃tf-idf、BM25,多条数据放一起(360)
提升写速度兼顾读性能,参考数据库存储引擎LSM(LevelDB、RocksDB)、B+mmap(LMDB、BoltDB、VoltDB)、WiredLSM、 Druid.io(InfluxDB后端存储由LevelDB换成了BoltDB,Bolt类似于LMDB,这个被认为是在现代kye/value存储中最好的)
数据压缩——LZ4/Deflate->zstd,列存储parquet,时间序列数据库( Riak IoT,openTSDB,InfluxDB-go+BoltDB, Akumuli,尤其是Druid.io concise压缩、Bitmap indexing加速查询,TokuDB分形树),日志相似度去重和加入分析统计
统计分析能力——特定字段数值的分布统计,topK,min/max/平均值,facet功能,TODO

posted @ 2017-01-26 17:58  bonelee  阅读(516)  评论(0编辑  收藏  举报