多核CPU配合负载均衡可以这样用，为老板省点钱

　　负载均衡作为一个处理高并发，大流量的访问的业务场景，已经几乎是常识性的知识了。

　　而本文的意义在于需求：由于大流量请求，导致服务无法正常响应，在不增加购买机器成本的场景下，如何提高服务器的业务处理能力？提示为：某个服务访问频率比其他服务的访问频率要高很多，服务是用JAVA语言编写的。

　　一般情况下，我们有两种可供选择的负载均衡方式，一是买别人的服务，别人给你提供好，你只需界面上操作下就行了；二是自己搭建负载均衡服务。当然了，这个层面的分类是会被喷的。咱们说点先靠谱的。

　　负载均衡分为软件负载均衡和硬件负载均衡； 百度百科解释如下：　软件负载均衡解决方案是指在一台或多台服务器相应的操作系统上安装一个或多个附加软件来实现负载均衡，如DNS Load Balance，CheckPoint Firewall-1 ConnectControl等，它的优点是基于特定环境，配置简单，使用灵活，成本低廉，可以满足一般的负载均衡需求。　　硬件负载均衡解决方案是直接在服务器和外部网络间安装负载均衡设备，这种设备通常称之为负载均衡器，由于专门的设备完成专门的任务，独立于操作系统，整体性能得到大量提高，加上多样化的负载均衡策略，智能化的流量管理，可达到最佳的负载均衡需求。

　　说得再多，其实也就是用后面许多机器支撑起前端的大流量请求。也就是说，在这种场景下，只要你足够有钱，哪怕你一台机器只能处理1、2个并发，那么你通过购买足够多的机器，也是可以应对大流量问题的。 

　　回到本文的出发点，怎样在不增加后端机器的情况下，提高业务处理能力呢？两个解决方向：

1. 某个服务访问量远高于其他服务，那么，我就让这个高访问的服务能够访问到比普通服务更多的机器，这样就可以分配更多资源给该服务了。

2. 利用多核CPU，让每台机器能够提供N个服务出来，这样就变相增加了机器的数量，也不至于购买新机器。

3. 组合1&2，更好提供服务。

　　要想让某服务能够拥有更多的服务器资源，这就涉及到了负载均衡的权重问题和路由问题了。如下为Nginx的配置示例：

server {
        listen 8080;
        server_name admin.123.com;

        location /func1 {
                proxy_pass http://k1;
                proxy_set_header Host $host;    #域名转发
                proxy_redirect off;
                proxy_set_header X-Real-IP $remote_addr;  #IP转发
                proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;
                proxy_connect_timeout 60;
                proxy_read_timeout 600;
                proxy_send_timeout 600;
        }

        location /func2 {
                proxy_pass http://k2;
                proxy_set_header Host $host;    #域名转发
                proxy_redirect off;
                proxy_set_header X-Real-IP $remote_addr;  #IP转发
                proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;
                proxy_connect_timeout 60;
                proxy_read_timeout 600;
                proxy_send_timeout 600;
        }
    }

#nginx 负载均衡配置权重，解决访问概率问题，fun1配置3台机器，fun2配置1台机器
upstream k1{ 
    server 10.136.82.92:8080 weight=2; 
    server 10.136.82.93:8080 weight=2; 
    server 10.136.82.94:8080 weight=2; 
} 

upstream k2{ 
    server 10.136.82.93:8080 weight=2; 
} 

　　OK，分配概率问题处理了，咱们来看看怎样在一台机器上提供出更多的服务出来。

　　就如本文标题据说，多核CPU，是目前的服务器绝对配置，目前可以说单核的机器已经找不到了吧。那么，怎样利用这个资源呢？ Java其实是可以自动利用多核资源的，那就是通过多线程去处理业务，这时代码运行就会被随机分配到其他核心处理器去处理了。但是对于不利用多线程编程的情况，多核的资源可能就被浪费了。  那么，怎样直接利用多核资源呢？ 当然就是在每个核心上面启动一个新服务咯。

　　在每个核心上启动一个服务如Tomcat，方式有多种，如：

1. 复制项目到代码，更改端口，如server -> server1 -> server2，直接指定核心启动

taskset -c 1 ./tomcat7 start       #直接指定核心启动，当然了，这样是无法利用到多核的
taskset -pc 2 20033              #为进程单独指定核心运行，如为8081->1,8082->3 ...

2. 使用docker容器，在一台机器上创建N个docker容器，然后将war/jar的项目代码安装其中，然后向外部暴露一个商品映射到docker内部的8080端口即可。

docker run -it  -d -p 40090:8080 con_server1 /bin/bash   # 创建一个容器，端口映射
docker start con_server1       # 启动容器
docker exec -it con_server1     # 进入容器1

　　运行好多个实例后，再通过负载均衡分配权重即可。

　　至此，多核利用完毕。针对实际应用中，可能不会这么麻烦的去操作，但是也算是一种思路吧，还有就是硬件负载均衡的配置应该会更简单些吧，毕竟是花了钱的。如下是A10负载均衡器的介绍图，就当是位符吧。

 

　　目前很多实际问题，都不能只从代码层面去考虑了，但是我们能做的，还是把代码写好一点，然后去了解下服务器的大环境。

　　这样吹牛会不会好点，哈哈哈。。。