Java高并发，解决思路

对于我们开发的网站，如果网站的访问量非常大的话，那么我们就需要考虑相关的并发访问问题了。而并发问题是绝大部分的程序员头疼的问题，但话又说回来了，既然逃避不掉，那我们就坦然面对吧~今天就让我们一起来研究一下常见的并发和同步吧。为了更好的理解并发和同步，我们需要先明白两个重要的概念:同步和异步

 1、同步和异步的区别和联系

 所谓同步，可以理解为在执行完一个函数或方法之后，一直等待系统返回值或消息，这时程序是出于阻塞的，只有接收到返回的值或消息后才往下执行其它的命令。

 异步，执行完函数或方法后，不必阻塞性地等待返回值或消息，只需要向系统委托一个异步过程，那么当系统接收到返回值或消息时，系统会自动触发委托的异步过程，从而完成一个完整的流程。

 同步在一定程度上可以看做是单线程，这个线程请求一个方法后就待这个方法给他回复，否则他不往下执行(死心眼)。

 异步在一定程度上可以看做是多线程的(废话，一个线程怎么叫异步)，请求一个方法后，就不管了，继续执行其他的方法。

 同步就是一件事，一件事情一件事的做。

 异步就是，做一件事情，不引响做其他事情。

 例如：吃饭和说话，只能一件事一件事的来，因为只有一张嘴。但吃饭和听音乐是异步的，因为，听音乐并不引响我们吃饭。

        对于Java程序员而言，我们会经常听到同步关键字synchronized，假如这个同步的监视对象是类的话，那么如果当一个对象访问类里面的同步方法的话，那么其它的对象如果想要继续访问类里面的这个同步方法的话，就会进入阻塞，只有等前一个对象执行完该同步方法后当前对象才能够继续执行该方法。这就是同步。相反，如果方法前没有同步关键字修饰的话，那么不同的对象可以在同一时间访问同一个方法，这就是异步。

 2、如何处理并发和同步

      今天讲的如何处理并发和同同步问题主要是通过锁机制。

      我们需要明白，锁机制有两个层面。

      一种是代码层次上的，如java中的同步锁，典型的就是同步关键字synchronized，这里我不在做过多的讲解，

      另外一种是数据库层次上的，比较典型的就是悲观锁和乐观锁。这里我们重点讲解的就是悲观锁（传统的物理锁）和乐观锁。

      悲观锁(Pessimistic Locking):      

      悲观锁，正如其名，它指的是对数据被外界（包括本系统当前的其他事务，以及来自 外部系统的事务处理）修改持保守态度，因此，在整个数据处理过程中，将数据处于锁定状态。悲观锁的实现，往往依靠数据库提供的锁机制（也只有数据库层提供的锁机制才能 真正保证数据访问的排他性，否则，即使在本系统中实现了加锁机制，也无法保证外部系 统不会修改数据）。

      一个典型的倚赖数据库的悲观锁调用：

      select * from account where name=”Erica” for update

       这条 sql 语句锁定了 account 表中所有符合检索条件（ name=”Erica” ）的记录。

      本次事务提交之前（事务提交时会释放事务过程中的锁），外界无法修改这些记录。

       Hibernate 的悲观锁，也是基于数据库的锁机制实现。

       下面的代码实现了对查询记录的加锁：

        String hqlStr ="from TUser as user where user.name='Erica'";

        Query query = session.createQuery(hqlStr);

        query.setLockMode("user",LockMode.UPGRADE); // 加锁

        List userList = query.list();// 执行查询，获取数据

        query.setLockMode 对查询语句中，特定别名所对应的记录进行加锁（我们为 TUser 类指定了一个别名 “user” ），这里也就是对返回的所有 user 记录进行加锁。

      观察运行期 Hibernate 生成的 SQL 语句：

      select tuser0_.id as id, tuser0_.name as name, tuser0_.group_id

      as group_id, tuser0_.user_type as user_type, tuser0_.sex as sex

      from t_user tuser0_ where (tuser0_.name='Erica' ) for update

     这里 Hibernate 通过使用数据库的 for update 子句实现了悲观锁机制。

      Hibernate 的加锁模式有：

      ? LockMode.NONE ： 无锁机制。

      ? LockMode.WRITE ： Hibernate 在 Insert 和 Update 记录的时候会自动获取

      ? LockMode.READ ： Hibernate 在读取记录的时候会自动获取。

      以上这三种锁机制一般由 Hibernate 内部使用，如 Hibernate 为了保证 Update

      过程中对象不会被外界修改，会在 save 方法实现中自动为目标对象加上 WRITE 锁。

      ? LockMode.UPGRADE ：利用数据库的 for update 子句加锁。

      ? LockMode. UPGRADE_NOWAIT ： Oracle 的特定实现，利用 Oracle 的 for update nowait 子句实现加锁。

      上面这两种锁机制是我们在应用层较为常用的，加锁一般通过以下方法实现：

      Criteria.setLockMode

      Query.setLockMode

      Session.lock

      注意，只有在查询开始之前（也就是 Hiberate 生成 SQL 之前）设定加锁，才会真正通过数据库的锁机制进行加锁处理，否则，数据已经通过不包含 for update子句的 Select             SQL 加载进来，所谓数据库加锁也就无从谈起。

      需要注意的是for update要放到mysql的事务中，即begin和commit中，否者不起作用。

       至于是锁住整个表还是锁住选中的行，

         至于hibernate中的悲观锁使用起来比较简单，这里就不写demo了~感兴趣的自己查一下就ok了~

         乐观锁(Optimistic Locking):       

         相对悲观锁而言，乐观锁机制采取了更加宽松的加锁机制。悲观锁大多数情况下依 靠数据库的锁机制实现，以保证操作最大程度的独占性。但随之

 而来的就是数据库 性能的大量开销，特别是对长事务而言，这样的开销往往无法承受。 如一个金融系统，当某个操作员读取用户的数据，并在读出的用户数

 据的基础上进 行修改时（如更改用户帐户余额），如果采用悲观锁机制，也就意味着整个操作过 程中（从操作员读出数据、开始修改直至提交修改结果的全

 过程，甚至还包括操作 员中途去煮咖啡的时间），数据库记录始终处于加锁状态，可以想见，如果面对几百上千个并发，这样的情况将导致怎样的后果。 乐

 观锁机制在一定程度上解决了这个问题。

        乐观锁，大多是基于数据版本   Version ）记录机制实现。何谓数据版本？即为数据增加一个版本标识，在基于数据库表的版本解决方案中，一般是通

 过为数据库表增加一个 “version” 字段来 实现。 读取出数据时，将此版本号一同读出，之后更新时，对此版本号加一。此时，将提 交数据的版本数据与数据

 库表对应记录的当前版本信息进行比对，如果提交的数据版本号大于数据库表当前版本号，则予以更新，否则认为是过期数据。

 3、常见并发同步案例分析

    案例一:订票系统案例，某航班只有一张机票，假定有1w个人打开你的网站来订票，问你如何解决并发问题(可扩展到任何高并发网站要考虑的并发读写问题)

    问题，1w个人来访问，票没出去前要保证大家都能看到有票，不可能一个人在看到票的时候别人就不能看了。到底谁能抢到，那得看这个人的“运气”（网络快慢等）

    其次考虑的问题，并发，1w个人同时点击购买，到底谁能成交？总共只有一张票。

    首先我们容易想到和并发相关的几个方案 ：

锁同步同步更多指的是应用程序的层面，多个线程进来，只能一个一个的访问，java中指的是syncrinized关键字。锁也有2个层面，一个是java中谈到的对象锁，用于线程同步；另外一个层面是数据库的锁；如果是分布式的系统，显然只能利用数据库端的锁来实现。

 假定我们采用了同步机制或者数据库物理锁机制，如何保证1w个人还能同时看到有票，显然会牺牲性能，在高并发网站中是不可取的。使用hibernate后我们提出了另外一个概念：乐观锁、悲观锁（即传统的物理锁）；

 采用乐观锁即可解决此问题。乐观锁意思是不锁定表的情况下，利用业务的控制来解决并发问题，这样即保证数据的并发可读性又保证保存数据的排他性，保

 证性能的同时解决了并发带来的脏数据问题。

 hibernate中如何实现乐观锁：

 前提：在现有表当中增加一个冗余字段，version版本号, long类型

 原理：

 1）只有当前版本号》=数据库表版本号，才能提交

 2）提交成功后，版本号version ++

 实现很简单：在ormapping增加一属性optimistic-lock="version"即可，以下是样例片段

 <hibernate-mapping>

 <class name="com.insigma.stock.ABC" optimistic-lock="version" table="T_Stock" schema="STOCK">

 

案例二、股票交易系统、银行系统，大数据量你是如何考虑的

 首先，股票交易系统的行情表，每几秒钟就有一个行情记录产生，一天下来就有（假定行情3秒一个） 股票数量×20×60*6 条记录，一月下来这个表记录数

 量多大？ oracle中一张表的记录数超过100w后 查询性能就很差了，如何保证系统性能？

 再比如，中国移动有上亿的用户量，表如何设计？把所有用于存在于一个表么？

 所以，大数量的系统，必须考虑表拆分-（表名字不一样，但是结构完全一样），通用的几种方式：（视情况而定）

 

1）按业务分，比如 手机号的表，我们可以考虑 130开头的作为一个表，131开头的另外一张表 以此类推

 2）利用oracle的表拆分机制做分表

 3）如果是交易系统，我们可以考虑按时间轴拆分，当日数据一个表，历史数据弄到其它表。这里历史数据的报表和查询不会影响当日交易。

 当然，表拆分后我们的应用得做相应的适配。单纯的or-mapping也许就得改动了。比如部分业务得通过存储过程等。此外，我们还得考虑缓存

 这里的缓存，指的不仅仅是hibernate，hibernate本身提供了一级二级缓存。这里的缓存独立于应用，依然是内存的读取，假如我们能减少数据库频繁的访

 问，那对系统肯定大大有利的。比如一个电子商务系统的商品搜索，如果某个关键字的商品经常被搜，那就可以考虑这部分商品列表存放到缓存（内存中

 去），这样不用每次访问数据库，性能大大增加。

 简单的缓存大家可以理解为自己做一个hashmap，把常访问的数据做一个key，value是第一次从数据库搜索出来的值，下次访问就可以从map里读取，而不

 读数据库；专业些的目前有独立的缓存框架比如memcached 等，可独立部署成一个缓存服务器。

 4、常见的提高高并发下访问的效率的手段

 首先要了解高并发的的瓶颈在哪里？

 1、可能是服务器网络带宽不够

 2.可能web线程连接数不够

 3.可能数据库连接查询上不去。

  根据不同的情况，解决思路也不同。

 像第一种情况可以增加网络带宽，DNS域名解析分发多台服务器。

 负载均衡，前置代理服务器nginx、apache等等

 数据库查询优化，读写分离，分表等等

 

最后复制一些在高并发下面需要常常需要处理的内容:

 尽量使用缓存，包括用户缓存，信息缓存等，多花点内存来做缓存，可以大量减少与数据库的交互，提高性能。

 用jprofiler等工具找出性能瓶颈，减少额外的开销。

 优化数据库查询语句，减少直接使用hibernate等工具的直接生成语句（仅耗时较长的查询做优化）。

 优化数据库结构，多做索引，提高查询效率。

 统计的功能尽量做缓存，或按每天一统计或定时统计相关报表，避免需要时进行统计的功能。

 能使用静态页面的地方尽量使用，减少容器的解析（尽量将动态内容生成静态html来显示）。

 解决以上问题后，使用服务器集群来解决单台的瓶颈问题。

        之前我将高并发的解决方法误认为是线程或者是队列可以解决，因为高并发的时候是有很多用户在访问，导致出现系统数据不正确、丢失数据现象，所以想到的是用队列解决，其实队列解决的方式也可以处理，比如我们在竞拍商品、转发评论微博或者是秒杀商品等，同一时间访问量特别大，队列在此起到特别的作用，将 所有请求放入队列，以毫秒计时单位，有序的进行，从而不会出现数据丢失系统数据不正确的情况。

 经过查资料，高并发的解决方法有俩种:

 一种是使用缓存、另一种是使用生成静态页面；还有就是从最基础的地方优化我们写代码减少不必要的资源浪费：(

 1.不要频繁的new对象,对于在整个应用中只需要存在一个实例的类使用单例模式.对于String的连接操作,使用StringBuffer或者StringBuilder.对于utility类型的类通过静态方法来访问。

 2. 避免使用错误的方式,如Exception可以控制方法推出,但是Exception要保留stacktrace消耗性能,除非必要不要使用 instanceof做条件判断,尽量使用比的条件判断方式.使用JAVA中效率高的类,比如ArrayList比Vector性能好。)

 

总 结：其实我们在开发中都很少考虑这种问题，直接都是先将功能实现，当一个程序员在干到2到3年，就会感觉光实现功能不是最主要的，安全性能、质量等等才是 一个开发人员最该关心的。今天我所说的是高并发。

我的解决思路是：

1、采用分布式应用设计

2、分布式缓存数据库

3、代码优化

 Java高并发的例子：

具体情况是这样： 通过java和数据库，自己实现序列自动增长。

实现代码大致如下：

 id_table表结构, 主要字段：

  id_name  varchar2(16);

 id_val  number(16,0);

 id_prefix  varchar2(4);

 //操作DB

   public synchronized String nextStringValue(String id){

        SqlSession sqlSess = SqlSessionUtil.getSqlSession();

        sqlSess.update("update id_table set id_val = id_val + 1 where id_name="+id);

        Map map = sqlSess.getOne("select id_name, id_prefix, id_val from id_table where id_name="+ id);

        BigDecimal val = (BigDecimal) map.get("id_val");

       //id_val是具体数字，rePack主要是统一返回固定长度的字符串；如：Y0000001, F0000001, T0000001等

        String idValue = rePack(val, map);

        return idValue;

  }

  

  //公共方法

public class IdHelpTool{

     public static String getNextStringValue(String idName){

          return getXX().nextStringValue(idName);

    }

}

具体使用者，都是通过类似这种方式：IdHelpTool.getNextStringValue("PAY_LOG");来调用。

 问题：

      （1） 当出现并发时， 有时会获取重复的ID；

      （2） 由于服务器做了相关一些设置，有时调用这个方法，好像还会导致超时。

 为了解决问题(1), 考虑过在方法getNextStringValue上，也加上synchronized ， 同步关键字过多，会不会更导致超时？

跪求大侠提供个解决问题的大概思路！！！

 

解决思路一：

可以通过第三方redis来实现。

 解决思路二：

 1、出现重复ID，是因为脏读了，并发的时候不加 synchronized  比如会出现问题

 2、但是加了 synchronized  ，性能急剧下降了，本身 java 就是多线程的，你把它单线程使用，不是明智的选择，同时，如果分布式部署的时候，加了 synchronized  也无法控制并发

 3、调用这个方法，出现超时的情况，说明你的并发已经超过了数据库所能处理的极限，数据库无限等待导致超时

 基于上面的分析，建议采用线程池的方案，支付宝的单号就是用的线程池的方案进行的。

 数据库 update 不是一次加1，而是一次加几百甚至上千，然后取到的这 1000个序号，放在线程池里慢慢分配即可，能应付任意大的并发，同时保证数据库没任何压力。