程序对批量数据写入数据库的优化--引入Redis并通过定时器来触发
没错,还是上篇文章提到的那个SpringMVC+Mybatis的项目,在客户调我方接口,疯狂的给我们insert数据的时候,应该想到一些优化方案,于是Redis就被引用了。
关于Redis的客户端,服务端的一些用法引用了这篇微博http://blog.csdn.net/joyhen/article/details/47358999,这里我就不搬砖了,这个微博写的也算中规中矩,如果你不笨的话完全是可以搞定的。
我详细来讲一下程序里的调用好了。
这是一个Maven项目,于是在pom.xml里增加一下dependency,Spring.xml的配置就不上图了
1 <dependency> 2 <groupId>org.redisson</groupId> 3 <artifactId>redisson</artifactId> 4 <version>1.0.2</version> 5 </dependency>
这样,我们的redisson的jar包就有了,然后进行简单的调用,封装一个固定的方法,便于后期的维护。然后调用Redis时候只需 Redisson redisson =RedisConnect.connect();就可以
1 public static final String CONF_RESOURCE = "resource"; 2 public static final String redis_address = Resources.instance(CONF_RESOURCE).getAttributeValue("redis_address");//redis服务IP 3 public static final String redis_password = Resources.instance(CONF_RESOURCE).getAttributeValue("redis_password");//redis密码 4 5 6 public static final Redisson connect(){ 7 Config config = new Config(); 8 config.setConnectionPoolSize(10); 9 config.addAddress(redis_address); 10 config.setPassword(redis_password); 11 Redisson redisson = Redisson.create(config); 12 13 return redisson; 14 }
个人的一个肤浅的看法(勿喷,刚接触Redis,还没有高级点儿的理解):Redis就是一个放在内存或者说是缓存上的一个Map,通过<key,Value>来维护。于是就有了下面的写法:当controler传过来一个对象的时候,可以将对象的未来的主键作为Key,然后将对象转换成JSON放到Value中,期间我试过将对象作为Value放到map里,但是在我本地的windows系统下自己搭建的Redis服务器测试是没问题的,但是放到公司的Linux服务器上,如果在定时器处理时,如果没有插入到表里,map会无理由的将这条记录移出去,如果有同仁知道原因希望跟我联系。所以我选择了json格式,这样在服务器上是没有问题的。
1 public void redisAdd(Order order) { 2 3 Redisson redisson =RedisConnect.connect(); 4 5 ConcurrentMap<String,Object> newMap = redisson.getMap("newMap"); 6 order.setPushCount(0); 7 String params = FastJsonUtil.toJSONString(order); 8 newMap.put(order.getOrderNo(), params); 9 // 关闭连接 10 redisson.shutdown(); 11 }
然后看一下取数据的代码:
1 Redisson redisson = RedisConnect.connect(); 2 3 ConcurrentMap<String,Object> newMap = redisson.getMap("newMap"); 4 Set<String> mapKey= newMap.keySet(); 5 for(String orderNo : mapKey){ 6 params = (String)newMap.get(orderNo); 7 order = JSONObject.parseObject(params, Order.class); 8 orderService.add(order); 9 newMap.remove(orderNo);//保存成功后将该条记录从map中删除 10 } 11 redisson.shutdown();//关闭redis
这样就可以通过定时器来定时出发这个方法,减少数据库连接池的压力,同时也提高效率。至于定时器,我想如果有空的话我写一个定时器的专栏,然后自己也试试不同的方法来实现