摘要: 上一篇(http://qindongliang.iteye.com/blog/2354381 )写了收集sparkstreaming的日志进入kafka便于后续收集到es中快速统计分析,今天就再写一篇如何在普通应用程序实时收集日志,上一篇写的毕竟是分布式环境下的操作,有一定的特殊性,如MapRedu 阅读全文
posted @ 2017-02-07 19:25 三劫散仙 阅读(2298) 评论(0) 推荐(0) 编辑
摘要: 前言 最近在看neo4j相关的官网文档以及一些调优参数,同时也学了下Jmeter,为了测试下neo4j服务的性能,虽然不是专业搞测试的,但是我觉得每个优秀的开发者都应该学会主动压测自己服务和代码的性能,并非写完代码之后直接扔给测试就完事了,兵法云:知彼知己,才能百胜不殆嘛。 jmeter是什么 jm 阅读全文
posted @ 2016-12-06 19:19 三劫散仙 阅读(701) 评论(0) 推荐(0) 编辑
摘要: 背景 我们的storm实时流计算项目已经上线几个月了,由于各种原因迟迟没有进行监控,每次出现问题都要登录好几台机器,然后使用sed,shell,awk,vi等各种命令来查询原因,效率非常低下,而且有些统计是没法做的,所以很有必要对storm本身相关的日志以及我们运行在storm上面的任务的日志做一个 阅读全文
posted @ 2016-11-22 19:10 三劫散仙 阅读(2600) 评论(0) 推荐(0) 编辑
摘要: cypher是neo4j官网提供的声明式查询语言,非常强大,用它可以完成任意的图谱里面的查询过滤,我们知识图谱的一期项目 基本开发完毕,后面会陆续总结学习一下neo4j相关的知识。今天接着上篇文章来看下neo4j的cpyher查询的一些基本概念和语法。 一,Node语法 在cypher里面通过用一对 阅读全文
posted @ 2016-11-11 18:31 三劫散仙 阅读(2983) 评论(0) 推荐(0) 编辑
摘要: 最新在使用Lostash2.3.4收集数据的时候,在读取redis数据的时候,报了如下的一个异常: 异常如下 Logstash自带的ruby是1.9的版本,自带集成的redis插件也是最新的redis-rb3.3.1 Logstash里面默认自带了redis插件,也就是redis-rb3.3.1 如 阅读全文
posted @ 2016-08-26 17:39 三劫散仙 阅读(596) 评论(0) 推荐(0) 编辑
摘要: 看到这个标题,相信不少人会感到疑惑,回忆你们自己的场景会发现,在Spring的项目中很少有使用多线程处理任务的,没错,大多数时候我们都是使用Spring MVC开发的web项目,默认的Controller,Service,Dao组件的作用域都是单实例,无状态,然后被并发多线程调用,那么如果我想使用多 阅读全文
posted @ 2016-08-25 19:39 三劫散仙 阅读(57469) 评论(1) 推荐(4) 编辑
摘要: 时隔半年,再次使用Spring Boot快速搭建微服务,半年前使用的版本是1.2.5,如今看官网最新的release版本是1.4.0,那就用最新的来构建,由于部署环境可能有多套所以使用maven-filter插件,定义多套环境的配置文件,最后使用的时候: 可以采用下面的几个命令来构建不同环境的打包: 阅读全文
posted @ 2016-08-16 10:21 三劫散仙 阅读(509) 评论(0) 推荐(0) 编辑
摘要: 前言 这两天需要对接一个新的搜索业务,由于测试机器还没到位,所以就自己创造条件,通过在Windows上安装VM虚拟机,模拟整套环境,从而能快速进入核心业务的开发测试状态中。 系统环境安装配置 虚拟机VMware Workstation Pro 12 云盘下载地址:https://pan.baidu. 阅读全文
posted @ 2016-07-28 20:47 三劫散仙 阅读(959) 评论(0) 推荐(0) 编辑
摘要: Solr发展飞快,现在最新的版本已经6.1.0了,下面来回顾下Solr6.x之后的一些新的特点: (1)并行SQL特性支持,编译成Streaming 表达式,可以在solrcloud集群中,并行执行 (2)SolrCloud的Collection被抽象成关系型数据库表,现在不仅仅可以支持强大的全文检 阅读全文
posted @ 2016-07-12 11:41 三劫散仙 阅读(744) 评论(0) 推荐(0) 编辑
摘要: (一)Hive+Solr简介 Hive作为Hadoop生态系统里面离线的数据仓库,可以非常方便的使用SQL的方式来离线分析海量的历史数据,并根据分析的结果,来干一些其他的事情,如报表统计查询等。 Solr作为高性能的搜索服务器,能够提供快速,强大的全文检索功能。 (二)为什么需要hive集成solr 阅读全文
posted @ 2016-03-17 15:18 三劫散仙 阅读(1607) 评论(0) 推荐(0) 编辑