nginx_uWSGI_django_virtualenv_supervisor发布web服务器

nginx_uWSGI_django_virtualenv_supervisor发布web服务器

nginx

导论

1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28

WSGI是Web服务器网关接口。它是一个规范，描述了Web服务器如何与Web应用程序通信，以及Web应用程序如何链接在一起以处理一个请求，（接收请求，处理请求，响应请求） 基于wsgi运行的框架有bottle,DJango,Flask,用于解析动态HTTP请求 支持WSGI的服务器 wsgiref python自带的web服务器 Gunicorn 用于linux的 python wsgi Http服务器，常用于各种django，flask结合部署服务器。 mode_wsgi 实现了Apache与wsgi应用程序的结合 uWSGI C语言开发，快速，自我修复，开发人员友好的WSGI服务器，用于Python Web应用程序的专业部署和开发。 在部署python程序web应用程序时，可以根据性能的需求，选择合适的wsgi server，不同的wsgi server区别在于并发支持上，有单线程，多进程，多线程，协程的区别，其功能还是近似，无非是请求路由，执行对应的函数，返回处理结果。 Django部署 Django的主要部署平台是 WSGI，这是用于Web服务器和应用程序的Python标准。 Django的 startproject管理命令设置一个简单的默认WSGI配置，可以根据需要为您的项目进行调整，并指示任何符合WSGI的应用程序服务器使用。 application 使用WSGI部署的关键概念是应用程序服务器用于与代码通信的 application 可调用。它通常在服务器可访问的Python模块中作为名为 application 的对象提供。 startproject 命令创建包含这样的 application 可调用的文件 <project_name>/wsgi.py. ，它被Django的开发服务器和生产WSGI部署使用。 WSGI服务器从其配置中获取 application 可调用的路径。 Django的内置服务器，即 runserver 命令，从 WSGI_APPLICATION 设置读取它。

为什么用nginx和uwsgi

1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17

1、首先nginx 是对外的服务接口，外部浏览器通过url访问nginx, 2、nginx 接收到浏览器发送过来的http请求，将包进行解析，分析url，如果是静态文件请求就直接访问用户给nginx配置的静态文件目录，直接返回用户请求的静态文件， 如果不是静态文件，而是一个动态的请求，那么nginx就将请求转发给uwsgi,uwsgi 接收到请求之后将包进行处理，处理成wsgi可以接受的格式，并发给wsgi,wsgi 根 据请求调用应用程序的某个文件，某个文件的某个函数，最后处理完将返回值再次交给wsgi,wsgi将返回值进行打包，打包成uwsgi能够接收的格式，uwsgi接收wsgi 发 送的请求，并转发给nginx,nginx最终将返回值返回给浏览器。 1、要知道第一级的nginx并不是必须的，uwsgi完全可以完成整个的和浏览器交互的流程，但是要考虑到某些情况 安全问题，程序不能直接被浏览器访问到，而是通过nginx,nginx只开放某个接口，uwsgi本身是内网接口，这样运维人员在nginx上加上安全性的限制，可以达到保护程序的作用。 2、负载均衡问题，一个uwsgi很可能不够用，即使开了多个work也是不行，毕竟一台机器的cpu和内存都是有限的，有了nginx做代理，一个nginx可以代理多台uwsgi完成uwsgi的负载均衡。 3、静态文件问题，用django或是uwsgi这种东西来负责静态文件的处理是很浪费的行为，而且他们本身对文件的处理也不如nginx好，所以整个静态文件的处理都直接由nginx完成，静态文件 的访问完全不去经过uwsgi以及其后面的东西。 为什么要用nginx,uwsgi

nginx有关

nginx官网

http://nginx.org/en/

nginx有关uwsgi模块介绍

http://nginx.org/en/docs/http/ngx_http_uwsgi_module.html

nginx、WSGI、uwsgi、uWSGI、django这几个关系

wsgi 全称web server gateway interface，wsgi不是服务器，也不是python模块，只是一种协议，
描述web server如何和web application通信的规则。运行在wsgi上的web框架有bottle，flask，django
uwsgi 和wsgi一样是通信协议，是uWSGI服务器的单独协议，用于定义传输信息的类型
uWSGI 是一个web服务器，实现了WSGI协议，uwsgi协议。a
nginx web服务器，更加安全，更好的处理处理静态资源，缓存功能，负载均衡，因此nginx的强劲性能，配合uWSGI服务器会更加安全，性能有保障。
django 高级的python web框架，用于快速开发，解决web开发的大部分麻烦，程序员可以更专注业务逻辑，无须重新造轮子

Django Nginx+uwsgi安装配置

以前我们使用 python manage.py runserver 来运行服务器。
这只适用测试环境中使用。正式发布的服务，需要一个可以稳定而持续的服务器。

基础开发环境配置

yum groupinstall "Development tools"
yum install zlib-devel bzip2-devel pcre-devel openssl-devel ncurses-devel sqlite-devel readline-devel tk-devel

提前安装好

python3环境

virtualenv

django1.11.11

安装django1.11

pip3 install django==1.11

创建django项目mysite

django-admin startproject mysite

创建app01

python3 manage.py startapp app01
mysite/settings.py

settings.py设置

ALLOWED_HOSTS = ['*']
install app01
mysite/urls.py

from app01 import views
urlpatterns = [
    url(r'^admin/', admin.site.urls),
    url(r'^hello_django/', views.hello),
]

app01/views.py

from django.shortcuts import render,HttpResponse

# Create your views here.
def hello(request):
    print('request is :',request)
    return HttpResponse('django is ok ')

安装uWSGI

进入虚拟环境venv，安装uwsgi
(venv) [root@slave 192.168.11.64 /opt]$pip3 install uwsgi
检查uwsgi版本
(venv) [root@slave 192.168.11.64 /opt]$uwsgi --version
2.0.17.1

检查uwsgi python版本

uwsgi --python-version

运行简单的uWSGI

启动一个python

uwsgi --http :8000 --wsgi-file test.py
http :8000: 使用http协议，端口8000
wsgi-file test.py: 加载指定的文件，test.py
#test.py
def application(env, start_response):
    start_response('200 OK', [('Content-Type','text/html')])
    return [b"Hello World"] # python3

uWsgi热加载python程序

1 2 3 4 5 6

在启动命令后面加上参数 uwsgi --http :8088 --module mysite.wsgi --py-autoreload=1 #发布命令 command= /home/venv/bin/uwsgi --uwsgi 0.0.0.0:8000 --chdir /opt/mysite --home=/home/venv --module mysite.wsgi #此时修改django代码，uWSGI会自动加载django程序，页面生效 复制代码

运行django程序

#mysite/wsgi.py  确保找到这个文件
uwsgi --http :8000 --module mysite.wsgi
module mysite.wsgi: 加载指定的wsgi模块

uwsgi配置文件

uwsgi支持ini、xml等多种配置方式，本文以 ini 为例， 在/etc/目录下新建uwsgi_nginx.ini，添加如下配置：

# mysite_uwsgi.ini file
[uwsgi]

# Django-related settings
# the base directory (full path)
chdir           = /opt/mysite
# Django's wsgi file
module          = mysite.wsgi
# the virtualenv (full path)
home            = /opt/venv
# process-related settings
# master
master          = true
# maximum number of worker processes
processes       = 1
# the socket (use the full path to be safe
socket          = 0.0.0.0:8000
# ... with appropriate permissions - may be needed
# chmod-socket    = 664
# clear environment on exit
vacuum          = true

指定配置文件启动命令

uwsgi --ini  /etc/uwsgi_nginx.ini

配置nginx结合uWSGI

1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41

worker_processes 1; error_log logs/error.log; pid logs/nginx.pid; events { worker_connections 1024; } http { include mime.types; default_type application/octet-stream; log_format main '$remote_addr - $remote_user [$time_local] "$request" ' '$status $body_bytes_sent "$http_referer" ' '"$http_user_agent" "$http_x_forwarded_for"'; access_log logs/access.log main; sendfile on; keepalive_timeout 65; 　　#nginx反向代理uwsgi server { listen 80; server_name 192.168.11.64; location / { 　　　　 #nginx自带ngx_http_uwsgi_module模块，起到nginx和uwsgi交互作用 #通过uwsgi_pass设置服务器地址和协议，讲动态请求转发给uwsgi处理 include /opt/nginx1-12/conf/uwsgi_params; uwsgi_pass 0.0.0.0:8000; root html; index index.html index.htm; } 　　　　 #nginx处理静态页面资源 　　　　 location /static{ 　　　　　　　　alias /opt/nginx1-12/static;　　　 } 　　　　　#nginx处理媒体资源 　　　　　location /media{ 　　　　　　　　alias /opt/nginx1-12/media;　　 } error_page 500 502 503 504 /50x.html; location = /50x.html { root html; } } }

http {
    include       mime.types;
    default_type  application/octet-stream;

    log_format  main  '$remote_addr - $remote_user [$time_local] "$request" '
                    '$status $body_bytes_sent "$http_referer" '
                    '"$http_user_agent" "$http_x_forwarded_for"';
    access_log  logs/access.log  main;
    sendfile        on;
    keepalive_timeout  65;
    upstream crm_django {
        server 192.168.12.77:8000;
    }

    # 虚拟主机一
    server {
        listen       80;
        server_name  www.xx.com;
        location / {
            uwsgi_pass  crm_django;
            include /opt/nginx1-12/conf/uwsgi_params;
        }
        location /static {
            alias /opt/static/;
        }
    }

以上配置完启动nginx

supervisor

supervisor 是基于 python 的任务管理工具，用来自动运行各种后台任务，当然你也能直接利用 nohup 命令使任务自动后台运行，
但如果要重启任务，每次都自己手动 kill 掉任务进程，这样很繁琐，而且一旦程序错误导致进程退出的话，系统也无法自动重载任务。

这里要配置基于virtualenv的supervisor

由于supervisor在python3下无法使用，因此只能用python2去下载！！！！！！

#注意此时已经退出虚拟环境了！！！！！
yum install python-setuptools
easy_install supervisor
通过命令生成supervisor的配支文件

echo_supervisord_conf > /etc/supervisord.conf
然后再/etc/supervisord.conf末尾添加上如下代码！！！！！！

1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18

supervisord.conf配置文件参数解释 [program:xx]是被管理的进程配置参数，xx是进程的名称 [program:xx] command=/opt/apache-tomcat-8.0.35/bin/catalina.sh run ; 程序启动命令 autostart=true ; 在supervisord启动的时候也自动启动 startsecs=10 ; 启动10秒后没有异常退出，就表示进程正常启动了，默认为1秒 autorestart=true ; 程序退出后自动重启,可选值：[unexpected,true,false]，默认为unexpected，表示进程意外杀死后才重启 startretries=3 ; 启动失败自动重试次数，默认是3 user=tomcat ; 用哪个用户启动进程，默认是root priority=999 ; 进程启动优先级，默认999，值小的优先启动 redirect_stderr=true ; 把stderr重定向到stdout，默认false stdout_logfile_maxbytes=20MB ; stdout 日志文件大小，默认50MB stdout_logfile_backups = 20 ; stdout 日志文件备份数，默认是10 ; stdout 日志文件，需要注意当指定目录不存在时无法正常启动，所以需要手动创建目录（supervisord 会自动创建日志文件） stdout_logfile=/opt/apache-tomcat-8.0.35/logs/catalina.out stopasgroup=false ;默认为false,进程被杀死时，是否向这个进程组发送stop信号，包括子进程 killasgroup=false ;默认为false，向进程组发送kill信号，包括子进程

1 2 3 4

[program:my] #command=/opt/venv/bin/uwsgi --ini /etc/uwsgi_nginx.ini #这里是结合virtualenv的命令 和supervisor的精髓！！！！ command= /home/venv/bin/uwsgi --uwsgi 0.0.0.0:8000 --chdir /opt/mysite --home=/home/venv --module mysite.wsgi #--home指的是虚拟环境目录 --module找到 mysite/wsgi.py

最后启动supervisor，完成uWSGI启动django，nginx反向代理

supervisord -c /etc/supervisord.conf #启动supervisor
supervisorctl -c /etxc/supervisord.conf restart my #重启my项目
supervisorctl -c /etc/supervisord.conf [start|stop|restart] [program-name|all]

重新加载supervisor

一、添加好配置文件后

二、更新新的配置到supervisord    

supervisorctl update
三、重新启动配置中的所有程序

supervisorctl reload
四、启动某个进程(program_name=你配置中写的程序名称)

supervisorctl start program_name
五、查看正在守候的进程

supervisorctl
六、停止某一进程 (program_name=你配置中写的程序名称)

pervisorctl stop program_name
七、重启某一进程 (program_name=你配置中写的程序名称)

supervisorctl restart program_name
八、停止全部进程

supervisorctl stop all
注意：显示用stop停止掉的进程，用reload或者update都不会自动重启。

django的静态文件与nginx配置 重点

django的静态文件与nginx配置
mysite/settings.py

STATIC_ROOT='/opt/nginx1-12/static'
STATIC_URL = '/static/'
STATICFILES_DIRS=[
    os.path.join(BASE_DIR,"static"),
]
上述的参数STATIC_ROOT用在哪？

通过python3 manage.py collectstatic 收集所有你使用的静态文件保存到STATIC_ROOT！

STATIC_ROOT 文件夹 是用来将所有STATICFILES_DIRS中所有文件夹中的文件，以及各app中static中的文件都复制过来
# 把这些文件放到一起是为了用nginx等部署的时候更方便

总结

linux基本管理命令

服务器上安装服务,python3.6(宿主机上的物理解释器)
1.虚拟解释器
virtualenv
虚拟出多个干净、隔离的python解释器环境
问题：管理上较为麻烦，需要找到venv的路径，并且source activate 才能激活虚拟环境
2.
virtualenvwrapper工具
更为方便的使用以及管理virtualenv
1.配置好环境变量之后，每次开机就加载这个软件
2.workon 激活并且切换多个虚拟环境
mkvirtualenv  创建
lsvirtualenv
cdvirtualenv
rmvirtualenv

mariadb

mariadb(mysql)，与django连接，存储数据(yum install mariadb-server mariadb-client)
初始化连接数据库
    __init.py__
    import pymysql 
    pymysql.install()
本地django连接linux上的数据库注意事项：
1.防火墙问题，需配置规则，或者关闭防火墙
    使用云服务器的同学，需要注意开通3306端口（安全组功能）
2.远程连接mysql，需要授权，远程连接
grant all privileges .....

edis

import redis 

准备django项目

准备django项目 >  crm 在服务器上运行crm

1.把本地代码，传至linux
-scp(linux与linux网络传输)
-xshell(yum install lrzsz) (windows)
lrzsz 可以通过如下俩命令管理文件，也可以直接拖拽文件
rz 接收
sz 发送
lrzsz只适用于小文件，大文件，请用xftp
-xftp (更为高效的企业级文件传输协议软件)

2.django项目需要配置allow_hosts=[‘*’]，允许所有主机访问
debug=True #返回给项目一个debug信息，暴露了项目配置信息，因此在线上要关闭

Nginx

1.web服务器，用户的统一入口，
我们的想法是，让用户通过nginx这个入口，就能访问到我们的应用服务器的功能
www.pythonav.cn 入口 < 80端口
端口转发，反向代理
80端口的请求 > 8000的端口应用

server{}虚拟主机

2.反向代理服务器

proxy_pass  后端应用服务器的ip:port   (转发给一个单点机器)
proxy_pass  upstream负载均衡池

3.负载均衡服务器

nginx接收到了基于wsgi协议的动态请求，然后通过uwsgi_pass转发给uwsgi服务器

uwsgi_pass  mydjango;

upstream mydjango {
    server 192.168.12.1:8000 weight=1;
    server 192.168.12.2:8000 weight=5;
    server 192.168.12.3:8000 weight=10;
}

4.处理静态文件，者是nginx的天然优势，处理静态文件的高并发性性能

www.python.com/static/xxx.js
    文件存放目录/data/static/xxx.js
www.python.com/static/xxx.css
    文件存放目录/data/static/xxx.css 
www.python.com/static/xxx.jpg
    文件存放目录/data/static/xxx.jpg


location /static  {
    alias /data/static;
}



uwsgi 
    uwsgi服务器：
    通过uwsgi这个软件启动crm项目，且是一个支持高并发，多进程的一个应用服务器
    uwsgi --module  crm 

    python3 manage.py runserver 0.0.0.0:8000  ××  不再用这种单机形式启动crm
    django-admin startproject   crm
    django-admin startapp      app01
        crm 
            -crm
                -wsgi.py   (重点级的文件，django启动，实现wsgi协议的文件)
            -manage.py

常见问题：

uwsgi  启动crm的时候，非常有可能报错一个 no application(找不到应用)
uwsgi找不到你的crm的wsgi.py
    其实uwsgi是通过这个application对象加载crm的
    application = get_wsgi_application()

进程管理工具：

启动进程后，通过命令 手动管理 
ps -ef |grep uwsgi 
#启停uwsgi 
kill -9 pid 
pkill uwsgi 
killall uwsgi 


#管理nginx 

ps -ef 
kill 

#管理mysql
ps -ef 

kill 


#进程管理工具 
supervisor 服务启动后


supervisorctl ，可以通过这个命令，非常方便的管理进程，也可以统一启动，停止所有的进程
    批量管理进程
    mysql : running/stop 
    nginx :     running/stop
    uwsgi:running/stop

项目发布配置手册：

(更换不同的服务器环境，首先就要解决环境依赖的问题)

1.pip3 frezz > requirements.py 
2. pip3 install -r requirements.py 
3.docker 

1.准备python环境，准备虚拟环境，激活了虚拟环境
mkvirtualenv nbcrm
检测是否虚拟环境正常
which pip3
which python3

2.安装django模块（此时的操作都是在nbcrm这个虚拟环境下了）
pip3 install django==1.11.11

3.安装pymysql连接mysql数据库
pip3 install pymysql

4.安装django的一个django-multiselectfield

pip3 install django-multiselectfield

5.解决项目的数据库连接问题，修改settings.py
1.启动linux的数据库，创建对应的数据库，密码设置等等
create database nb_crm;
2.更改settings.py
DATABASES = {
‘default’: {
‘ENGINE’: ‘django.db.backends.mysql’,
‘NAME’: ‘nb_crm’, #数据库名
‘HOST’: ‘127.0.0.1’, #这里服务器的ip地址
‘PORT’: 3306, #端口
‘USER’: ‘root’, #用户名
‘PASSWORD’: ‘redhat123’, #用户密码
}
}
3.更改允许主机
ALLOWED_HOSTS = [‘*’]

4.线上关闭debug(肖锋的这个nb_crm先别改debug了)，默认先用True
debug=True 

使用uwsgi启动django

1.安装uwsgi

pip3 install -i https://pypi.douban.com/simple uwsgi

2.通过uwsgi命令启动python应用

uwsgi --http   0.0.0.0:8888  --wsgi-file test1.py  
    --http  指明是http协议
    --socket 启动一个socket 链接
    --wsgi-file  指明一个python应用文件

3.通过uwsgi启动django项目(问题是，uwsgi不处理static静态文件的配置)
uwsgi –http :8888 –module Nb_crm.wsgi

4.uwsgi可以热加载项目

uwsgi --http :9999  --module mycrm.wsgi --py-autoreload=1 
--py-autoreload是告诉uwsgi自动重启加载django项目

5.通过uwsgi的配置文件启动项目

1.手动创建uwsgi.ini文件
touch uwsgi.ini
2.写入如下配置
[uwsgi]
    #项目的绝对路径，定位到项目的第一层
    chdir           = /opt/NB_crm
    #指明项目的wsgi文件路径
    module          = NB_crm.wsgi
    #指明你的虚拟解释器的第一层路径
    home            = /root/Envs/nbcrm
    #指明通过uwsgi，启动多少个进程
    processes       = 5

    #非常重要
    #非常重要
    #非常重要
    #如果你已经配置了nginx(启动了nginx服务，配置了uwsgi_pass)，请用这个socket连接
    #socket          = 0.0.0.0:8000

    #如果你没用nginx，想通过uwsgi直接启动web服务，指明http协议
    http = 0.0.0.0:9999

    #在退出uwsgi环境后，清空环境变量
    vacuum          = true

6.通过配置文件启动NB_crm（注意uwsgi不会处理静态文件，如果有，也是浏览器的缓存！！！！）
uwsgi –ini uwsgi.ini

7.配置django的settings.py，收集所有NB_crm项目所需的静态文件
1.#通过命令，收集整个项目所有的静态文件，放入到/opt/static/
STATIC_ROOT=’/opt/static/‘
2.执行命令
python3 manage.py collectstatic
3.此时NB_crm的所有静态文件，都跑到/opt/static/底下了
(nbcrm) [root@node1 /opt/NB_crm 11:09:33]#ls /opt/static/
admin css imgs js plugins

8.配置nginx
1.配置一个网站入口，当用户访问192.168.12.96:80 这个web应用时，自动将请求转发给uwsgi，uwsgi处理后，返回给nginx，返回给用户
当请求是192.168.12.96:80的时候，其实访问的是192.168.12.96:9999 这是动态请求，因为我是找到的uwsgi

#匹配度最低的写法，因此就是任何的请求都访问到这里

2.通过nginx去处理静态文件 


3.nginx.conf配置如下

#定义负载均衡池，里面放入uwsgi的地址
upstream nbcrm {
    server 127.0.0.1:8000;

}

server {
   listen 80;
   server_name  www.xx.com;
   #讲nginx入口的请求，直接反向代理给uwsgi
   location / {
     uwsgi_pass  nbcrm;
     include /opt/nginx1-12/conf/uwsgi_params;

}

#通过nginx处理nbcrm的静态文件
location /static {
    alias /opt/static/;
    }
}

9.更改uwsgi.ini ，指明socket连接，结合uwsgi 和nginx

#如果你已经配置了nginx，请用这个socket连接
socket          = 0.0.0.0:8000

10.启动uwsgi.ini
uwsgi –ini uwsgi.ini

启动nginx

./nginx 


并且访问nginx的域名入口，查看是否能访问到uwsgi项目，并且静态文件是否正常

www.xx.com   查看浏览器状态

11.配置supversior，管理uwsgi进程

注意，请退出虚拟环境，在宿主机环境下，安装supvervisor

1.安装easy_install ，python2的软件包管理工具 ，如果有了可以忽略
yum install python-setuptools

#安装软件
easy_install supervisor

2.使用supervisor命令,常用命令如下
生成配置文件
echo_supervisord_conf > /etc/supervisord.conf

3.修改配置文件，添加任务，按照自己的机器环境修改此命令
[program:crm_project]

#启动uwsgi的命令就是这个
command=/root/Envs/nbcrm/bin/uwsgi  --ini /opt/NB_crm/uwsgi.ini
#自动启动uwsgi，挂了之后自动加载
autorestart=true

4.启动supvervisord服务，启动uwsgi

#服务端命令，用于启动这个服务
supervisord -c  /etc/supervisord.conf

5.通过命令管理uwsgi
supervisorctl 直接回车，进入交互式管理状态

[root@node1 ~ 11:53:32]#supervisorctl 
crm_project                         RUNNING   pid 2008, uptime 0:01:56

也可以通过命令交互式的管理uwsgi

#服务端启动后，通过命令管理软件

supervisorctl  start crm_project
supervisorctl  stop  crm_project 
supervisorctl status crm_project