flask: python项目高并发异步部署、uwsgi启动Python的Web项目中不要使用全局变量、信号、微服务的概念、flask-script、sqlalchemy 快速使用、sqlalchemy快速使用、创建操作数据表
一、python项目高并发异步部署
参考博客:https://zhuanlan.zhihu.com/p/358163330
django和flask都是同步框架,部署的时候,使用uwsgi部署,uwsgi是进程线程架构,并发量不高
但是我们可以通过uwsgi+gevent,部署成异步程序
然后我们简单分析一下他是怎么提高并发的,详细的去看老刘博客
我们设进程数最多为N,每个进程内的线程数最多为M,因此在使用uwsgi启动项目的时候,我们能处理的最高并发数就是N*M,当然这时候我们还可以通过添加服务器来获得更高的并发数
如果我们不添加服务器,就需要用uwsgi+gevent,部署成异步程序,通过这样的方式获得更高的并发量
而gevent就是我们学习的协程,协程就是单线程实现并发,用这样的方式提高并发量
gevent的好处就是无需等待I/O,当发生I/O调用是,gevent会主动切换到另一gevent进行运行,这样可以充分利用CPU资源
同时gevent通过monkey patch(猴子补丁)替换掉了标准库中阻塞的模块
二、uwsgi启动Python的Web项目中不要使用全局变量
参考博客:https://zhuanlan.zhihu.com/p/428228031
当我们运行项目的时候,因为进程是资源分配的最小变量,导致进程间数据不共享,这就会导致全局变量不是全局变量了(每个进程下都有一个该变量,互相独立)
三、信号
Flask中的信号(signal)是一种事件通知机制,用于在应用程序中的不同部分之间发送消息。信号通常用于在某些特定事件发生时执行特定的操作,例如在请求处理过程中执行某些额外的操作,或在应用程序启动或关闭时执行特定的操作。(Flask框架中的信号基于blinker,其主要就是让开发者可是在flask请求过程中定制一些用户行为)
ps1:我们会发现他的作用跟请求扩展很像
ps2:flask 和django都有信号
信号:signial 翻译过来的,在并发编程中学过 信号量:Semaphore,两者不是一个东西
应用场景举例:
我需要在用户表新增一条记录,就记录一下日志
- 方案一:在每个增加后,都写一行代码 ---》后期要删除,比较麻烦
- 方案二:使用信号,写一个函数,绑定内置信号,只要程序执行到这,就会执行这个函数
方案一确实可以使用,但是耦合性比较强(或者叫侵入性比较强,即没有去修改该功能的代码),当我们需要修改功能的时候,我们需要在每个添加日志的代码处进行修改,而方案二就像我们抽取代码封装成函数一样,只需要修改一处地方
拓展:
代码的健壮性(跟鲁棒性是一样的意思):鲁棒性亦称健壮性、稳健性、强健性,是系统的健壮性,它是在异常和危险情况下系统生存的关键,是指系统在一定(结构、大小)的参数摄动下,维持某些性能的特性。
3.1 flask信号
安装blinker模块
pip3.8 install blinker
常见的内置信号
request_started = _signals.signal('request-started') # 请求到来前执行
request_finished = _signals.signal('request-finished') # 请求结束后执行
before_render_template = _signals.signal('before-render-template') # 模板渲染前执行(可以用于实现统计模版被访问次数)
template_rendered = _signals.signal('template-rendered') # 模板渲染后执行
got_request_exception = _signals.signal('got-request-exception') # 请求执行出现异常时执行
request_tearing_down = _signals.signal('request-tearing-down') # 请求执行完毕后自动执行(无论成功与否)
appcontext_tearing_down = _signals.signal('appcontext-tearing-down')# 应用上下文执行完毕后自动执行(无论成功与否)
appcontext_pushed = _signals.signal('appcontext-pushed') # 应用上下文push时执行
appcontext_popped = _signals.signal('appcontext-popped') # 应用上下文pop时执行
message_flashed = _signals.signal('message-flashed') # 调用flask在其中添加数据时,自动触发
使用内置信号的步骤
1、写一个函数
2、绑定内置信号
3、等待被触发
演示代码
from flask import Flask, render_template, signals,session
app = Flask(__name__)
app.secret_key='asdfasdfdas'
#### 内置信号使用
# 1 写一个函数
'虽然我们的这个函数不需要参数,但是我们也得写上可变长参数用于接收信号传进来的数据'
def test(*args,**kwargs):
print(args)
print(kwargs)
print('我执行了')
# 2 绑定信号
# 内置信号很多,随意绑定一个:模板渲染前
signals.before_render_template.connect(test)
# 3 等待信号被触发
@app.route('/index')
def index():
return render_template('index.html', name='lqz')
if __name__ == '__main__':
app.run()
触发结果如下:
我们可以看到传进来的参数很多,有template、context、request、session等信息
使用自定义信号的步骤
1、定义出信号(需要我们自己做了)
这里我们也可以在他的源码中找到内置信号的定义
template_rendered = _signals.signal("template-rendered")
before_render_template = _signals.signal("before-render-template")
request_started = _signals.signal("request-started")
request_finished = _signals.signal("request-finished")
request_tearing_down = _signals.signal("request-tearing-down")
got_request_exception = _signals.signal("got-request-exception")
appcontext_tearing_down = _signals.signal("appcontext-tearing-down")
appcontext_pushed = _signals.signal("appcontext-pushed")
appcontext_popped = _signals.signal("appcontext-popped")
message_flashed = _signals.signal("message-flashed")
2、写一个函数
3、绑定自定义的信号
4、触发信号的执行(也需要我们自己做了)
演示代码
from flask import Flask, render_template, signals,session
from flask.signals import _signals
app = Flask(__name__)
app.secret_key='asdfasdfdas'
###自定义信号
# 1 定义出信号
session_set = _signals.signal('session_set')
# 2 写一个函数
def test1(*args, **kwargs):
print(args)
print(kwargs)
print('session设置值了')
# 3 绑定自定义的信号
session_set.connect(test1)
# 4 触发信号的执行(咱们做)
# session_set.send('lqz') # 触发信号执行
@app.route('/')
def hello_world():
session['lqz']='lqz'
session_set.send('lqz') # 触发信号执行
return 'Hello World!'
@app.route('/index')
def index():
return render_template('index.html', name='lqz')
if __name__ == '__main__':
app.run()
这里我们定义了一个信号,通过信号名称.send()的方式来触发信号的执行
如果我们像上面一样传了参数,就可以在函数的args参数中被接受到
在源码中查找内置信号在哪触发的
在Flask的full_dispatch_request方法中,我们可以找到send的执行,部分源码如下:
try:
request_started.send(self)
'这里就是触发信号'
rv = self.preprocess_request()
'这里就是执行请求扩展中的方法'
if rv is None:
rv = self.dispatch_request()
except Exception as e:
rv = self.handle_user_exception(e)
return self.finalize_request(rv)
preprocess_request源码如下:
def preprocess_request(self) -> t.Optional[ft.ResponseReturnValue]:
names = (None, *reversed(request.blueprints))
for name in names:
if name in self.url_value_preprocessors:
for url_func in self.url_value_preprocessors[name]:
url_func(request.endpoint, request.view_args)
for name in names:
if name in self.before_request_funcs:
for before_func in self.before_request_funcs[name]:
rv = self.ensure_sync(before_func)()
if rv is not None:
return rv
return None
在这里我们看到了before_request_funcs,从if里面的判断内容,我们可以猜到,他就是判断用来请求扩展的视图名称是否在里面
接着我们看请求扩展装饰器的源码,我们发现他就是把方法名称添加到before_request_funcs中去
@setupmethod
def before_request(self, f: T_before_request) -> T_before_request:
self.before_request_funcs.setdefault(None, []).append(f)
return f
总结前后的源码,我们得出结论,用了请求扩展装饰器的视图方法的名称,会被添加到before_request_funcs中去,然后再触发的时候,去before_request_funcs查找名称是否在里面,在的话就执行对应的代码
#观察者模式,又叫发布-订阅(Publish/Subscribe) 23 种设计模式之一
# django中使用信号
3.2 django信号
参考博客:https://www.cnblogs.com/liuqingzheng/articles/9803403.html
在他的文章中提到了Django提供一种信号机制。其实就是观察者模式,又叫发布-订阅(Publish/Subscribe) 。
观察者模式,又叫发布-订阅(Publish/Subscribe) 23 种设计模式之一
简单来说,他就像抖音上的一个账号,如果我关注(订阅)了这个账号,当他更新的时候,我就会收到他的新视频的消息推送。如果我没有关注(订阅)他,我就不会收到他的消息推送。
当发生一些动作的时候,发出信号,然后监听了这个信号的函数就会执行。
通俗来讲,就是一些动作发生的时候,信号允许特定的发送者去提醒一些接受者。用于在框架执行操作时解耦。
ps:这个信号可以处理双写一致性问题
django的内置信号
Model signals
pre_init # django的modal执行其构造方法前,自动触发
post_init # django的modal执行其构造方法后,自动触发
pre_save # django的modal对象保存前,自动触发
post_save # django的modal对象保存后,自动触发
pre_delete # django的modal对象删除前,自动触发
post_delete # django的modal对象删除后,自动触发
m2m_changed # django的modal中使用m2m字段操作第三张表(add,remove,clear)前后,自动触发
class_prepared # 程序启动时,检测已注册的app中modal类,对于每一个类,自动触发
Management signals
pre_migrate # 执行migrate命令前,自动触发
post_migrate # 执行migrate命令后,自动触发
Request/response signals
request_started # 请求到来前,自动触发
request_finished # 请求结束后,自动触发
got_request_exception # 请求异常后,自动触发
Test signals
setting_changed # 使用test测试修改配置文件时,自动触发
template_rendered # 使用test测试渲染模板时,自动触发
Database Wrappers
connection_created # 创建数据库连接时,自动触发
django中使用内置信号
# django中使用内置信号
1 写一个函数
def callBack(*args, **kwargs):
print(args)
print(kwargs)
2 绑定信号
#方式一
post_save.connect(callBack)
# 方式二
from django.db.models.signals import pre_save
from django.dispatch import receiver
@receiver(pre_save)
def my_callback(sender, **kwargs):
print("对象创建成功")
print(sender)
print(kwargs)
3 等待触发
四、微服务的概念
参考博客:https://www.cnblogs.com/liuqingzheng/p/16271897.html
我们平时用django写的项目就是单体架构,所有的功能都放在一个项目中,当一个项目上了新功能的时候,肯定要测试,这时候我们所有的功能都是要测试的,这就导致工作量很大
到了很大的项目中,就需要拆分功能,这就是集群架构
接着就是分布式架构,分布式架构最早期用的就是soa架构,京东就是用的这种架构,把一个个app分出来,根据功能不同,分别上线,这样相互之间就不会影响,但是数据互相独立也会出现很多问题
接着就是微服务架构,他相当于在soa架构的基础上接着拆分,然后他拆分出来的一个个服务之间可以互相联系组织
五、flask-script
在django中,我们运行项目执行命令
python manage.py runserver ...
而在flask项目中,目前我们是直接右键运行的
我们如果想像django项目中一样运行项目,需要借助flask-script
安装flask-script模块
pip3 install flask-script
这里我们需要注意,不同版本的flask和flask-script不一定兼容,下方是一组兼容的版本
Flask==2.2.2
Flask_Script==2.0.3
使用步骤:
manage.py
from flask import Flask
'步骤一导入模块中的Manager'
from flask_script import Manager
app = Flask(__name__)
'然后把app对象传入Manager'
manager=Manager(app)
app.secret_key='asdfasdfdas'
@app.route('/')
def hello_world():
return 'Hello World!'
if __name__ == '__main__':
# app.run()
'最后修改项目的启动方式'
manager.run()
修改完代码后,我们会发现右键运行代码,已经不能让项目跑起来了,我们需要在执行文件所在目录,运行命令启动项目
python manage.py runserver
这里的manage.py,可以换成别的文件名称,同时启动时也是可以执行ip和端口号的,像python一样添加即可
自定制命令
这个我们可以去搜相关的博客,也可以去学长的项目查看他是怎么用的
from flask import Flask
'步骤一导入模块中的Manager'
from flask_script import Manager
app = Flask(__name__)
'然后把app对象传入Manager'
manager=Manager(app)
app.secret_key='asdfasdfdas'
#1 简单自定制命令
@manager.command
def custom(arg):
# 命令的代码,比如:初始化数据库, 有个excel表格,使用命令导入到mysql中
print(arg)
#2 复杂一些的自定制命令
@manager.option('-n', '--name', dest='name')
@manager.option('-u', '--url', dest='url')
def cmd(name, url):
# python run.py cmd -n lqz -u xxx
# python run.py cmd --name lqz --url uuu
print(name, url)
@app.route('/')
def hello_world():
return 'Hello World!'
if __name__ == '__main__':
# app.run()
'最后修改项目的启动方式'
manager.run()
简单自定制命令:
python run.py custom zzh
这里的zzh就是传进去的参数
复杂一些的自定制命令:
python run.py cmd -n lqz -u xxx
python run.py cmd --name lqz --url uuu
六、sqlalchemy 快速使用
参考博客:https://www.cnblogs.com/liuqingzheng/p/16005909.html
flask 中没有orm框架,对象关系映射,方便我们快速操作数据库
flask,fastapi中用sqlalchemy居多
SQLAlchemy是一个基于Python实现的ORM框架。该框架建立在 DB API之上,使用关系对象映射进行数据库操作,简言之便是:将类和对象转换成SQL,然后使用数据API执行SQL并获取执行结果
安装sqlalchemy模块
pip3.8 install sqlalchemy
SQLAlchemy本身无法操作数据库,其必须以来pymsql等第三方插件,Dialect用于和数据API进行交流,根据配置文件的不同调用不同的数据库API,从而实现对数据库的操作,如:
MySQL-Python
mysql+mysqldb://<user>:<password>@<host>[:<port>]/<dbname>
pymysql
mysql+pymysql://<username>:<password>@<host>/<dbname>[?<options>]
MySQL-Connector
mysql+mysqlconnector://<user>:<password>@<host>[:<port>]/<dbname>
cx_Oracle
oracle+cx_oracle://user:pass@host:port/dbname[?key=value&key=value...]
更多:http://docs.sqlalchemy.org/en/latest/dialects/index.html
七、sqlalchemy快速使用
4.1 原生操作的快速使用
# 先不是orm,而是原生sql
# 第一步:导入
from sqlalchemy import create_engine
# 第二步:生成引擎对象
engine = create_engine(
"mysql+pymysql://root@127.0.0.1:3306/cnblogs",
max_overflow=0, # 超过连接池大小外最多创建的连接
pool_size=5, # 连接池大小
pool_timeout=30, # 池中没有线程最多等待的时间,否则报错
pool_recycle=-1 # 多久之后对线程池中的线程进行一次连接的回收(重置),-1就是不回收
)
# 第三步:使用引擎获取连接,操作数据库
conn = engine.raw_connection()
cursor=conn.cursor()
cursor.execute('select * from aritcle')
print(cursor.fetchall())
八、创建操作数据表
# 第一步:导入
from sqlalchemy import create_engine
import datetime
from sqlalchemy.ext.declarative import declarative_base
from sqlalchemy import Column, Integer, String, Text, ForeignKey, DateTime, UniqueConstraint, Index
# 第二步:执行declarative_base,得到一个类
Base = declarative_base()
# 第三步:继承生成的Base类
class User(Base):
# 第四步:写字段
id = Column(Integer, primary_key=True) # 生成一列,类型是Integer,主键
name = Column(String(32), index=True, nullable=False) # name列varchar32,索引,不可为空
email = Column(String(32), unique=True)
# datetime.datetime.now不能加括号,加了括号,以后永远是当前时间
ctime = Column(DateTime, default=datetime.datetime.now)
# extra = Column(Text, nullable=True)
# 第五步:写表名 如果不写以类名为表名
__tablename__ = 'users' # 数据库表名称
# 第六步:建立联合索引,联合唯一
__table_args__ = (
UniqueConstraint('id', 'name', name='uix_id_name'), # 联合唯一
Index('ix_id_name', 'name', 'email'), # 索引
)
class Book(Base):
__tablename__ = 'books'
id = Column(Integer, primary_key=True)
name = Column(String(32))
# 第七步:把表同步到数据库中
# 不会创建库,只会创建表
engine = create_engine(
"mysql+pymysql://root@127.0.0.1:3306/aaa",
max_overflow=0, # 超过连接池大小外最多创建的连接
pool_size=5, # 连接池大小
pool_timeout=30, # 池中没有线程最多等待的时间,否则报错
pool_recycle=-1 # 多久之后对线程池中的线程进行一次连接的回收(重置)
)
# 把表同步到数据库 (把被Base管理的所有表,都创建到数据库)
Base.metadata.create_all(engine)
# 把所有表删除
# Base.metadata.drop_all(engine)