nginx 简单优化 内核参数优化

内核参数的优化

net.ipv4.ip_forward = 0  
表示开启路由功能,0是关闭,1是开启

net.ipv4.conf.all.rp_filter=1   
则是"告诉"kernel加强入站过滤(ingress filtering)和出站过滤(egress filtering)

net.ipv4.conf.default.rp_filter = 1                           
开启反向路径过滤

net.ipv4.conf.default.accept_source_route = 0              
处理无源路由的包

kernel.sysrq = 0                                                      
控制系统调试内核的功能要求

kernel.core_uses_pid = 1                                      
用于调试多线程应用程序

kernel.msgmnb = 65536                                        
所有在消息队列中的消息总和的最大值(msgmnb=64k)

kernel.msgmax = 65536                                       
指定内核中消息队列中消息的最大值(msgmax=64k)

kernel.shmmax = 68719476736                            
是核心参数中最重要的参数之一,用于定义单个共享内存段的最大值,64位linux系统:可取的最大值为物理内存值-1byte,建议值为多于物理内存的一半,一般取值大于SGA_MAX_SIZE即可,可以取物理内存-1byte。例如,如果为64GB物理内存,可取64*1024*1024*1024-1=68719476735

kernel.shmall = 4294967296                                   
该参数控制可以使用的共享内存的总页数。Linux共享内存页大小为4KB,共享内存段的大小都是共享内存页大小的整数倍。一个共享内存段的最大大小是 16G,那么需要共享内存页数是16GB/4KB=16777216KB /4KB=4194304(页),也就是64Bit系统下16GB物理内存,设置kernel.shmall = 4194304才符合要求(几乎是原来设置2097152的两倍)

net.ipv4.conf.default.arp_announce

定义不同程序的限制,宣布本地IP地址和IP数据包中的ARP协议要求发出的接口:
0-(默认)使用任何本地地址,上配置任何接口。 
1- 尽量避免本地地址不属于目标的子网掩码这个接口的,这种模式是有用的当地到达目标主机需要通过这个接口的源IP地址的ARP协议要求的一部分,其逻辑网络上配置接受接口,当我们出现需求,我们将检查所有的子网,包括我们的目标将维持原地址,如果没有这样的子网,我们根据地址规则选择2. 
2-始终使用当地最好的解决这一目标。在这种模式下,我们忽视了源地址的IP数据包,并尝试选择本地地址的,我们希望会谈的目标主机。这些地方是选中的地址寻找小学的所有IP地址的子网的接口,其中包括即将离任的目标IP地址。如果没有合适的本地地址是发现我们选择第一个本地地址,我们对即将离任的接口或其他所有的接口,希望我们将得到答复我们的要求

net.core.wmem_default = 8388608      
为TCP socket预留用于发送缓冲的内存默认值(单位:字节)一般要低于net.core.wmem_default的值。默认值为16384(16K)。

net.core.rmem_default = 8388608        
为TCP socket预留用于接收缓冲的内存默认值(单位:字节)net.core.rmem_max = 16777216           为TCP socket预留用于接收缓冲的内存最大值(单位:字节)net.core.wmem_max = 16777216          TCP socket预留用于发送缓冲的内存最大值(单位:字节)net.ipv4.tcp_rmem = 4096 65536 16777216                   接收窗口的最大大小

net.ipv4.tcp_wmem = 4096 65536 16777216                  
默认的接收窗口大小,默认值为4096(4K) 
net.ipv4.tcp_mem = 94500000 915000000 927000000  
 net.ipv4.tcp_mem[0]:低于此值,TCP 没有内存压力。net.ipv4.tcp_mem[1]:在此值下,进入内存压力阶段。net.ipv4.tcp_mem[2]:高于此值,TCP 拒绝分配socket。上述内存单位是页,而不是字节

net.ipv4.tcp_syncookies = 1                    
只有在内核编译时选择了CONFIG_SYNCOOKIES时才会发生作用。当出现syn等候队列出现溢出时象对方发送syncookies。目的是为了防止syn flood攻击,当出现SYN等待队列溢出时,启用cookies来处理。

net.ipv4.tcp_synack_retries = 1 
为了打开对端的连接,内核需要发送一个SYN 并附带一个回应前面一个SYN 的ACK。也就是所谓三次握手中的第二次握手。这个设置决定了内核放弃连接之前发送SYN+ACK 包的数量。减少系统SYN连接重试次数,为了打开对端的连接,内核需要发送一个SYN并附带一个回应前面一个SYN的ACK。

net.ipv4.tcp_syn_retries = 1  
在内核放弃建立连接之前发送SYN 包的数量net.ipv4.tcp_max_syn_backlog = 262144  表示SYN队列的长度,默认为1024,加大队列长度为262144,可以容纳更多等待连接的网络连接数。

net.ipv4.tcp_max_tw_buckets = 10000     
timewait 的数量,默认是180000。表示系统同时保持TIME_WAIT的最大数量,如果超过这个数字,TIME_WAIT将立刻被清除并打印警告信息。

net.ipv4.tcp_tw_recycle = 1
表示开启TCP连接中TIME-WAIT sockets的快速收回功能,默认为 0 ,表示关闭。

net.ipv4.tcp_tw_reuse = 1
表示开启重用。允许将TIME-WAIT sockets重新用于新的 TCP 连接,默认为 0 表示关闭

net.ipv4.tcp_fin_timeout = 5 
表示如果套接字由本端要求关闭,这个参数决定了它保持在FIN-WAIT-2状态的时间。对端可以出错并永远不关闭连接,甚至意外当机。缺省值是60  秒。2.2 内核的通常值是180 秒,3你可以按这个设置,但要记住的是,即使你的机器是一个轻载的WEB  服务器,也有因为大量的死套接字而内存溢出的风险,FIN- WAIT-2 的危险性比FIN-WAIT-1 要小,因为它最多只能吃掉1.5K  内存,但是它们的生存期长些。

net.ipv4.ip_local_port_range = 1024    65000 
表示用于向外连接的端口范围

net.ipv4.tcp_keepalive_time = 1200 
表示当keepalive起用的时候,TCP发送keepalive消息的频度。缺省是2小时,改为20分钟

net.ipv4.tcp_keepalive_intvl = 15    
当探测没有确认时,重新发送探测的频度。缺省是75秒。net.ipv4.tcp_keepalive_probes = 5         在认定连接失效之前,发送多少个TCP的keepalive探测包。缺省值是9。这个值乘以tcp_keepalive_intvl之后决定了,一个连接发送了keepalive之后可以有多少时间没有回应

net.core.somaxconn = 262144     
listen(函数)的默认参数,挂起请求的最大数量限制。web 应用中listen 函数的backlog 默认会给我们内核参数的net.core.somaxconn 限制到128,而nginx 定义的NGX_LISTEN_BACKLOG 默认为511,所以有必要调整这个值

net.core.netdev_max_backlog = 262144 
 每个网络接口接收数据包的速率比内核处理这些包的速率快时,允许送到队列的数据包的最大数目

net.ipv4.tcp_sack = 1               
有选择的应答,1表示yes ,0表示nonet.ipv4.tcp_window_scaling = 1           支持更大的TCP窗口。 如果TCP窗口最大超过65535(64K), 必须设置该数值为1

net.ipv4.tcp_max_orphans = 262144
系统中最多有多少个TCP套接字不被关联到任何一个用户文件句柄上。如果超过这个数字,孤儿连接将即刻被复位并打印出警告信息。这个限制仅仅是为了防止简单的DoS攻击,不能过分依靠它或者人为地减小这个值,更应该增加这个值(如果增加了内存之后)。

net.ipv4.tcp_max_syn_backlog = 262144
记录的那些尚未收到客户端确认信息的连接请求的最大值。对于有128M内存的系统而言,缺省值是1024,小内存的系统则是128。

net.ipv4.tcp_timestamps = 0
时间戳可以避免序列号的卷绕。一个1Gbps的链路肯定会遇到以前用过的序列号。时间戳能够让内核接受这种“异常”的数据包。这里需要将其关掉。

`







net.ipv4.ip_forward = 0        

net.ipv4.conf.all.rp_filter = 1

net.ipv4.conf.default.rp_filter = 1

net.ipv4.conf.default.accept_source_route = 0

kernel.sysrq = 0

kernel.core_uses_pid = 1

net.bridge.bridge-nf-call-ip6tables = 0

net.bridge.bridge-nf-call-iptables = 0

net.bridge.bridge-nf-call-arptables = 0

kernel.msgmnb = 65536

kernel.msgmax = 65536

kernel.shmmax = 68719476736

kernel.shmall = 4294967296

net.ipv6.conf.all.disable_ipv6 = 1

net.ipv6.conf.default.disable_ipv6 = 1

net.ipv4.neigh.default.gc_stale_time = 120

net.ipv4.conf.default.arp_announce = 2

net.ipv4.conf.all.arp_announce = 2

net.ipv4.conf.lo.arp_announce = 2

###内存资源使用相关设定

net.core.wmem_default = 8388608 

net.core.rmem_default = 8388608 

net.core.rmem_max = 16777216 

net.core.wmem_max = 16777216 

net.ipv4.tcp_rmem = 4096 65536 16777216

net.ipv4.tcp_wmem = 4096 65536 16777216     

net.ipv4.tcp_mem = 8388608 8388608 8388608

##应对DDOS攻击,TCP连接建立设置

net.ipv4.tcp_syncookies = 1

net.ipv4.tcp_synack_retries = 1 

net.ipv4.tcp_syn_retries = 1 

net.ipv4.tcp_max_syn_backlog = 262144

##应对timewait过高,TCP连接断开设置

net.ipv4.tcp_max_tw_buckets = 10000 

net.ipv4.tcp_tw_recycle = 1 

net.ipv4.tcp_tw_reuse = 1 

net.ipv4.tcp_timestamps = 0 

net.ipv4.tcp_fin_timeout = 5

net.ipv4.ip_local_port_range = 4000 65000

###TCP keepalived 连接保鲜设置

net.ipv4.tcp_keepalive_time = 1200

net.ipv4.tcp_keepalive_intvl = 15

net.ipv4.tcp_keepalive_probes = 5

###其他TCP相关调节

net.core.somaxconn = 262144

net.core.netdev_max_backlog = 262144  

net.ipv4.tcp_max_orphans = 3276800

net.ipv4.tcp_sack = 1

net.ipv4.tcp_window_scaling = 1

 

以下4条注意网络环境,如果net摸会出现连接错误的情况
net.ipv4.tcp_syncookies = 1
net.ipv4.tcp_tw_recycle = 1 
net.ipv4.tcp_tw_reuse = 1
net.ipv4.tcp_fin_timeout = 30


一、这里的优化主要是指对nginx的配置优化,一般来说nginx配置文件中对优化比较有作用的主要有以下几项:
1)nginx进程数,建议按照cpu数目来指定,一般跟cpu核数相同或为它的倍数。
worker_processes 8;
2)为每个进程分配cpu,上例中将8个进程分配到8个cpu,当然可以写多个,或者将一个进程分配到多个cpu。
worker_cpu_affinity 00000001 00000010 00000100 00001000 00010000 00100000 01000000 10000000;
3)下面这个指令是指当一个nginx进程打开的最多文件描述符数目,理论值应该是系统的最多打开文件数(ulimit -n)与nginx进程数相除,但是nginx分配请求并不是那么均匀,所以最好与ulimit -n的值保持一致。
worker_rlimit_nofile 65535;
4)使用epoll的I/O模型,用这个模型来高效处理异步事件
use epoll;
5)每个进程允许的最多连接数,理论上每台nginx服务器的最大连接数为worker_processes*worker_connections。
worker_connections 65535;
6)http连接超时时间,默认是60s,功能是使客户端到服务器端的连接在设定的时间内持续有效,当出现对服务器的后继请求时,该功能避免了建立或者重新建立连接。切记这个参数也不能设置过大!否则会导致许多无效的http连接占据着nginx的连接数,终nginx崩溃!
keepalive_timeout 60;
7)客户端请求头部的缓冲区大小,这个可以根据你的系统分页大小来设置,一般一个请求的头部大小不会超过1k,不过由于一般系统分页都要大于1k,所以这里设置为分页大小。分页大小可以用命令getconf PAGESIZE取得。
client_header_buffer_size 4k;
8)下面这个参数将为打开文件指定缓存,默认是没有启用的,max指定缓存数量,建议和打开文件数一致,inactive是指经过多长时间文件没被请求后删除缓存。
open_file_cache max=102400 inactive=20s;
9)下面这个是指多长时间检查一次缓存的有效信息。
open_file_cache_valid 30s;
10)open_file_cache指令中的inactive参数时间内文件的最少使用次数,如果超过这个数字,文件描述符一直是在缓存中打开的,如上例,如果有一个文件在inactive时间内一次没被使用,它将被移除。
open_file_cache_min_uses 1;

11)隐藏响应头中的有关操作系统和web server(Nginx)版本号的信息,这样对于安全性是有好处的。
server_tokens off;
12)可以让sendfile()发挥作用。sendfile()可以在磁盘和TCP socket之间互相拷贝数据(或任意两个文件描述符)。Pre-sendfile是传送数据之前在用户空间申请数据缓冲区。之后用read()将数据从文件拷贝到这个缓冲区,write()将缓冲区数据写入网络。sendfile()是立即将数据从磁盘读到OS缓存。因为这种拷贝是在内核完成的,sendfile()要比组合read()和write()以及打开关闭丢弃缓冲更加有效(更多有关于sendfile)。
sendfile on;
13)告诉nginx在一个数据包里发送所有头文件,而不一个接一个的发送。就是说数据包不会马上传送出去,等到数据包最大时,一次性的传输出去,这样有助于解决网络堵塞。
tcp_nopush on;
14)告诉nginx不要缓存数据,而是一段一段的发送--当需要及时发送数据时,就应该给应用设置这个属性,这样发送一小块数据信息时就不能立即得到返回值。
tcp_nodelay on;
比如:
http {
server_tokens off;
sendfile on;
tcp_nopush on;
tcp_nodelay on;
......
}
15)客户端请求头部的缓冲区大小,这个可以根据系统分页大小来设置,一般一个请求头的大小不会超过1k,不过由于一般系统分页都要大于1k,所以这里设置为分页大小。
client_header_buffer_size 4k;
客户端请求头部的缓冲区大小,这个可以根据系统分页大小来设置,一般一个请求头的大小不会超过1k,不过由于一般系统分页都要大于1k,所以这里设置为分页大小。
分页大小可以用命令getconf PAGESIZE取得。
[root@test-huanqiu ~]# getconf PAGESIZE
4096
但也有client_header_buffer_size超过4k的情况,但是client_header_buffer_size该值必须设置为“系统分页大小”的整倍数。
16)为打开文件指定缓存,默认是没有启用的,max 指定缓存数量,建议和打开文件数一致,inactive 是指经过多长时间文件没被请求后删除缓存。
open_file_cache max=65535 inactive=60s;
17)open_file_cache 指令中的inactive 参数时间内文件的最少使用次数,如果超过这个数字,文件描述符一直是在缓存中打开的,如上例,如果有一个文件在inactive 时间内一次没被使用,它将被移除。
open_file_cache_min_uses 1;
18)指定多长时间检查一次缓存的有效信息。
open_file_cache_valid 80s;

 

二、关于FastCGI的几个指令

1)这个指令为FastCGI缓存指定一个路径,目录结构等级,关键字区域存储时间和非活动删除时间。
fastcgi_cache_path /usr/local/nginx/fastcgi_cache levels=1:2 keys_zone=TEST:10m inactive=5m;
2)指定连接到后端FastCGI的超时时间。
fastcgi_connect_timeout 300;
3)向FastCGI传送请求的超时时间,这个值是指已经完成两次握手后向FastCGI传送请求的超时时间。
fastcgi_send_timeout 300;
4)接收FastCGI应答的超时时间,这个值是指已经完成两次握手后接收FastCGI应答的超时时间。
fastcgi_read_timeout 300;
5)指定读取FastCGI应答第一部分 需要用多大的缓冲区,这里可以设置为fastcgi_buffers指令指定的缓冲区大小,上面的指令指定它将使用1个 16k的缓冲区去读取应答的第一部分,即应答头,其实这个应答头一般情况下都很小(不会超过1k),但是你如果在fastcgi_buffers指令中指 定了缓冲区的大小,那么它也会分配一个fastcgi_buffers指定的缓冲区大小去缓存。
fastcgi_buffer_size 16k;
6)指定本地需要用多少和多大的缓冲区来 缓冲FastCGI的应答,如上所示,如果一个php脚本所产生的页面大小为256k,则会为其分配16个16k的缓冲区来缓存,如果大于256k,增大 于256k的部分会缓存到fastcgi_temp指定的路径中, 当然这对服务器负载来说是不明智的方案,因为内存中处理数据速度要快于硬盘,通常这个值 的设置应该选择一个你的站点中的php脚本所产生的页面大小的中间值,比如你的站点大部分脚本所产生的页面大小为 256k就可以把这个值设置为16 16k,或者4 64k 或者64 4k,但很显然,后两种并不是好的设置方法,因为如果产生的页面只有32k,如果用4 64k它会分配1个64k的缓冲区去缓存,而如果使用64 4k它会分配8个4k的缓冲区去缓存,而如果使用16 16k则它会分配2个16k去缓存页面,这样看起来似乎更加合理。
fastcgi_buffers 16 16k;
7)这个指令我也不知道是做什么用,只知道默认值是fastcgi_buffers的两倍。
fastcgi_busy_buffers_size 32k;
8)在写入fastcgi_temp_path时将用多大的数据块,默认值是fastcgi_buffers的两倍。
fastcgi_temp_file_write_size 32k;
9)开启FastCGI缓存并且为其制定一个名称。个人感觉开启缓存非常有用,可以有效降低CPU负载,并且防止502错误。但是这个缓存会引起很多问题,因为它缓存的是动态页面。具体使用还需根据自己的需求。
fastcgi_cache TEST
10)为指定的应答代码指定缓存时间,如上例中将200,302应答缓存一小时,301应答缓存1天,其他为1分钟。
fastcgi_cache_valid 200 302 1h;
fastcgi_cache_valid 301 1d;
fastcgi_cache_valid any 1m;
11)缓存在fastcgi_cache_path指令inactive参数值时间内的最少使用次数,如上例,如果在5分钟内某文件1次也没有被使用,那么这个文件将被移除。
fastcgi_cache_min_uses 1;
12)不知道这个参数的作用,猜想应该是让nginx知道哪些类型的缓存是没用的。
fastcgi_cache_use_stale error timeout invalid_header http_500;

 nginx反向代理proxy_set_header自定义header头无效的问题

环境nginx,linux,tomcat
域名访问是走nginx给后端服务器处理的,
问题是域名经过nginx访问直接不能获取到headers,直接tomcat访问可以
那么问题肯定在nginx上无法处理headers的问题了, 经过查询上面资料得到是nginx的锅,hearders有下划——线的锅,

nginx设置underscores_in_headers on,

参照上面配置说。就可以处理

nginx 我的配置

user www www;
worker_processes 12;
error_log logs/error.log;
pid logs/nginx.pid;
events {
use epoll;
worker_connections 65535;
}

http {
# log_format main '$remote_addr - $remote_user [$time_local] "$request" '
# '$status $body_bytes_sent "$http_referer" '
# '"$http_user_agent" "$http_x_forwarded_for"';

 

log_format main '$remote_addr - $remote_user [$time_local] "$request" '
'$status $body_bytes_sent "$http_referer" '
'"$http_user_agent" "$upstream_addr" '
'request_time $request_time '
'upstream_response_time $upstream_response_time';

include mime.types;
include vhost/*.conf;
include vhost/rdev/*.conf;
include vhost/tk/*.conf;
default_type application/octet-stream;
server_names_hash_bucket_size 128;
client_header_buffer_size 32k;
large_client_header_buffers 4 32k;
client_max_body_size 300m;
sendfile on;
tcp_nopush on;
keepalive_timeout 6000;
tcp_nodelay on;
server_tokens off;
# fastcgi_cache_path /opt/service/nginx/fastcgi_cache levels=1:2 keys_zone=TEST:10m inactive=5m;
fastcgi_connect_timeout 300;
fastcgi_send_timeout 300;
fastcgi_read_timeout 300;
fastcgi_buffer_size 64k;
fastcgi_buffers 4 64k;
fastcgi_busy_buffers_size 128k;
fastcgi_temp_file_write_size 128k;
# fastcgi_cache TEST;
fastcgi_cache_valid 200 302 1h;
fastcgi_cache_valid 301 1d;
fastcgi_cache_valid any 1m;
gzip on;
gzip_min_length 1k;
gzip_buffers 4 16k;
gzip_http_version 1.1;
gzip_comp_level 2;
gzip_types text/plain application/x-javascript text/css application/xml;
gzip_vary on;
# limit_req_log_level warn;
# limit_req_zone $binary_remote_addr zone=one:10m rate=1r/s;

# for proxy params
proxy_redirect off;
proxy_set_header Host $host;
proxy_set_header X-Real-IP $remote_addr;
proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;
proxy_pass_header Server;

proxy_connect_timeout 200;
proxy_send_timeout 300;
proxy_read_timeout 300;

proxy_buffering on;
proxy_buffer_size 8k;
proxy_buffers 8 32k;
proxy_busy_buffers_size 64k;

proxy_headers_hash_bucket_size 64;
proxy_headers_hash_max_size 512;

proxy_ignore_client_abort on;
proxy_temp_file_write_size 64k;
proxy_max_temp_file_size 0;
# for proxy params


}

 




net.ipv4.ip_forward = 0        
03 net.ipv4.conf.all.rp_filter = 1
04 net.ipv4.conf.default.rp_filter = 1
05 net.ipv4.conf.default.accept_source_route = 0
06 kernel.sysrq = 0
07 kernel.core_uses_pid = 1
08 net.bridge.bridge-nf-call-ip6tables = 0
09 net.bridge.bridge-nf-call-iptables = 0
10 net.bridge.bridge-nf-call-arptables = 0
11 kernel.msgmnb = 65536
12 kernel.msgmax = 65536
13 kernel.shmmax = 68719476736
14 kernel.shmall = 4294967296
15 net.ipv6.conf.all.disable_ipv6 = 1
16 net.ipv6.conf.default.disable_ipv6 = 1
17 net.ipv4.neigh.default.gc_stale_time = 120
18 net.ipv4.conf.default.arp_announce = 2
19 net.ipv4.conf.all.arp_announce = 2
20 net.ipv4.conf.lo.arp_announce = 2
21 ###内存资源使用相关设定
22 net.core.wmem_default = 8388608 
23 net.core.rmem_default = 8388608 
24 net.core.rmem_max = 16777216 
25 net.core.wmem_max = 16777216 
26 net.ipv4.tcp_rmem = 4096 65536 16777216
27 net.ipv4.tcp_wmem = 4096 65536 16777216     
28 net.ipv4.tcp_mem = 8388608 8388608 8388608
29 ##应对DDOS攻击,TCP连接建立设置
30 net.ipv4.tcp_syncookies = 1
31 net.ipv4.tcp_synack_retries = 1 
32 net.ipv4.tcp_syn_retries = 1 
33 net.ipv4.tcp_max_syn_backlog = 262144
34 ##应对timewait过高,TCP连接断开设置
35 net.ipv4.tcp_max_tw_buckets = 10000 
36 net.ipv4.tcp_tw_recycle = 1 
37 net.ipv4.tcp_tw_reuse = 1 
38 net.ipv4.tcp_timestamps = 0 
39 net.ipv4.tcp_fin_timeout = 5
40 net.ipv4.ip_local_port_range = 4000 65000
41 ###TCP keepalived 连接保鲜设置
42 net.ipv4.tcp_keepalive_time = 1200
43 net.ipv4.tcp_keepalive_intvl = 15
44 net.ipv4.tcp_keepalive_probes = 5
45 ###其他TCP相关调节
46 net.core.somaxconn = 262144
47 net.core.netdev_max_backlog = 262144  
48 net.ipv4.tcp_max_orphans = 3276800
49 net.ipv4.tcp_sack = 1
50 net.ipv4.tcp_window_scaling = 1
posted @ 2017-08-28 14:33  Novicelong  阅读(669)  评论(0编辑  收藏  举报