rabbitMQ

官方教程:http://www.rabbitmq.com/tutorials/tutorial-one-python.html

 

传统方式是邮差逐个将邮件送到用户手上.

消息队列的方式:

  邮件放进邮箱,用户只需要去邮箱里面去找有没有邮件,有就拿走,没有就下次再来,这样可以极大的提升邮件收发效率!

邮件=消息,

邮箱=队列,

用户取邮件=去队列取消息

什么是rabbitMQ?

  rabbitMQ是一个消息代理,负责接收和转发消息 (就像邮局)


 

  消息Message是指在应用间传送的数据。消息可以非常简单,比如只包含文本字符串,也可以更复杂,可能包含嵌入对象。

  消息队列(Message Queue)是一种应用间的通信方式,消息发送后就立即返回,消息发布者只管把消息发布到 MQ 中而不用管谁来取,消息使用者只管从 MQ 中取消息而不管是谁发布的。

技术栈很大才会用rabbitMQ
邮差把邮件放进邮箱 用户去邮箱里找
邮箱=队列
邮件=消息 rabbit接收和转发消息=邮局 不管多少用户下单 都将消息写入消息队列 而不是告诉用户库存不足 库存系统取消息队列中的数据 有数据就消费走 没有就下次再来 redis也可以处理这种生产者消费者模型,但是不能持久化可能会出现数据丢失 rabitmq消费后可以返回消费成功给消息队列将 队列将标记清除 如果队列没有收到消费成功的消息 数据不会清除 提供给下一个消费者

为什么要用rabbitMQ?

  以商城订单为例,用户付款后的业务逻辑可能包括:检查库存、生成单据、发红包、短信通知等,如果这些业务同步执行,完成下单率会非常低,如发红包短信通知等不必要的流程,异步执行即可。

  此时使用MQ可以在核心流程(扣减库存、生成订单记录)等完成后发送消息到MQ,快速结束本次流程。消费者拉取MQ消息后再执行发红包、短信等。

场景举例1:

双11购物狂节用户下单后,订单系统需要通知库存系统,

传统做法: 订单系统调用库存系统的接口:

这种做法的缺点:

当库存系统出现故障时,订单就会失败。

订单系统和库存系统高耦合.

 

使用消息队列:

订单系统:用户下单后,订单系统完成持久化处理,将消息写入消息队列,返回给用户订单下单成功。

库存系统:订阅下单的消息,获取下单消息,进行库存操作。就算库存系统出现故障,消息队列也能保证消息的可靠投递,不会导致消息丢失

 

 

 

 

场景举例2:秒杀活动

秒杀活动一般会因为流量过大,导致应用挂掉,为了解决这个问题,一般在应用前加入消息队列。

作用:

1.可以控制活动人数,超过此一定阀值的订单直接丢弃

2.可以缓解短时间的高流量压垮应用(应用程序按自己的最大处理能力获取订单)

3.用户请求-->服务器接收到之后,写入消息队列,超过定义的阈值就直接丢弃请求,或者跳转错误页面。

4.业务系统取出队列中的消息,再做后续处理。

 

 rabbitMQ安装: 

1.下载centos源
wget -O /etc/yum.repos.d/CentOS-Base.repo   http://mirrors.cloud.tencent.com/repo/centos7_base.repo
2.下载epel源
wget -O /etc/yum.repos.d/epel.repo http://mirrors.cloud.tencent.com/repo/epel-7.repo
3.清空yum缓存并且生成新的yum缓存
yum clean all
yum makecache
4.安装erlang
   $ yum -y install erlang
5.安装RabbitMQ
   $ yum -y install rabbitmq-server
6.启动(无用户名密码):
    systemctl start/stop/restart/status rabbitmq-server
​
设置rabbitmq账号密码,以及角色权限设置

# 设置新用户yugo 密码123
sudo rabbitmqctl add_user yugo 123# 设置用户为administrator角色
sudo rabbitmqctl set_user_tags yugo administrator
​
# 设置权限,允许对所有的队列都有权限
对何种资源具有配置、写、读的权限通过正则表达式来匹配,具体命令如下:
set_permissions [-p <vhostpath>] <user> <conf> <write> <read>

sudo rabbitmqctl set_permissions -p "/" yugo ".*" ".*" ".*"#重启服务生效设置
service rabbitmq-server start/stop/restart
rabbitmq相关命令

// 新建用户
rabbitmqctl add_user {用户名} {密码}
​
// 设置权限
rabbitmqctl set_user_tags {用户名} {权限}
​
// 查看用户列表
rabbitmqctl list_users
​
// 为用户授权
添加 Virtual Hosts :    
rabbitmqctl add_vhost <vhost>// 删除用户
rabbitmqctl delete_user Username
​
// 修改用户的密码
rabbitmqctl change_password Username Newpassword
    
// 删除 Virtual Hosts :    
rabbitmqctl delete_vhost <vhost>    
    
// 添加 Users :    
rabbitmqctl add_user <username> <password>    
rabbitmqctl set_user_tags <username> <tag> ...    
rabbitmqctl set_permissions [-p <vhost>] <user> <conf> <write> <read>    
    
// 删除 Users :    
delete_user <username>// 使用户user1具有vhost1这个virtual host中所有资源的配置、写、读权限以便管理其中的资源
rabbitmqctl  set_permissions -p vhost1 user1 '.*' '.*' '.*'// 查看权限
rabbitmqctl list_user_permissions user1
​
rabbitmqctl list_permissions -p vhost1
​
// 清除权限
rabbitmqctl clear_permissions [-p VHostPath] User
​
//清空队列步骤
rabbitmqctl reset 
需要提前关闭应用rabbitmqctl stop_app ,
然后再清空队列,启动应用
rabbitmqctl start_app
此时查看队列rabbitmqctl list_queues
​
查看所有的exchange:                              rabbitmqctl list_exchanges
查看所有的queue:                                 rabbitmqctl list_queues
查看所有的用户:                                   rabbitmqctl list_users
查看所有的绑定(exchange和queue的绑定信息):         rabbitmqctl list_bindings
查看消息确认信息:
rabbitmqctl list_queues name messages_ready messages_unacknowledged
查看RabbitMQ状态,包括版本号等信息:rabbitmqctl status

#开启web界面rabbitmq
rabbitmq-plugins enable rabbitmq_management

#访问web界面
http://server-name:15672/
rabbitmq-server服务端安装

python客户端:

  pip3 install pika

使用:

生产者send.py

import pika
# 创建凭证,使用rabbitmq用户密码登录
# 去邮局取邮件,必须得验证身份
credentials = pika.PlainCredentials("s14","123")
# 新建连接,这里localhost可以更换为服务器ip
# 找到这个邮局,等于连接上服务器
connection = pika.BlockingConnection(pika.ConnectionParameters('192.168.119.10',credentials=credentials))
# 创建频道
# 建造一个大邮箱,隶属于这家邮局的邮箱,就是个连接
channel = connection.channel()
# 声明一个队列,用于接收消息,队列名字叫“水许传”
channel.queue_declare(queue='水许传')
# 注意在rabbitmq中,消息想要发送给队列,必须经过交换(exchange),初学可以使用空字符串交换(exchange=''),它允许我们精确的指定发送给哪个队列(routing_key=''),参数body值发送的数据
channel.basic_publish(exchange='',
                      routing_key='水许传',
                      body='武松又去打老虎啦2')
print("已经发送了消息")
# 程序退出前,确保刷新网络缓冲以及消息发送给rabbitmq,需要关闭本次连接
connection.close()

 

 消费者:

import pika
# 建立与rabbitmq的连接
credentials = pika.PlainCredentials("s14","123")
connection = pika.BlockingConnection(pika.ConnectionParameters('192.168.119.10',credentials=credentials))
channel = connection.channel()
channel.queue_declare(queue="水许传")

def callbak(ch,method,properties,body):
    print("消费者接收到了任务:%r"%body.decode("utf8"))
# 有消息来临,立即执行callbak,没有消息则夯住,等待消息
# 老百姓开始去邮箱取邮件啦,队列名字是水许传
channel.basic_consume(callbak,queue="水许传",no_ack=True)
# 开始消费,接收消息
channel.start_consuming()

 rabbitmq消息确认之ack: 

no-ack机制不确认机制  消费者消费数据后不返回处理结果  rabbitmq-server将消息队列中删除

 

ACK机制:

  消费者消费了队列的消息需要返回消息处理的状态,如果处理成功就将队列中消息标记清除, 如果处理失败,不清除消息,队列中仍然保存这个消息,提供下一位消费者继续取 

使用ack的流程:

1.生产者无须变动,发送消息

2.消费者如果no_ack=True啊,数据消费后如果出错就会丢失

反之no_ack=False,数据消费如果出错,数据也不会丢失

3.ack机制在消费者代码中演示

 

代码: 消费者.py提供ack回复:

import pika

credentials = pika.PlainCredentials("s14","123")
connection = pika.BlockingConnection(pika.ConnectionParameters('192.168.119.10',credentials=credentials))
channel = connection.channel()

# 声明一个队列(创建一个队列)
channel.queue_declare(queue='金品没')

def callback(ch, method, properties, body):
    print("消费者接受到了任务: %r" % body.decode("utf-8"))
    # int('asdfasdf')  模拟异常
    # 我告诉rabbitmq服务端,我已经取走了消息
    # 回复方式在这
    ch.basic_ack(delivery_tag=method.delivery_tag)
# 关闭no_ack,代表给与服务端ack回复,确认给与回复
channel.basic_consume(callback,queue='金品没',no_ack=False)

channel.start_consuming();

rabbitMQ之消息持久化:

  durable=True 开启持久化,

  消息的可靠性是RabbitMQ的一大特色,RabbitMQ通过消息持久化来保证消息可靠性。 为了保证RabbitMQ在退出或者crash等异常情况下数据没有丢失,需要将queue,exchange和Message都持久化。

生产者:  

import pika
# 无密码
# connection = pika.BlockingConnection(pika.ConnectionParameters('123.206.16.61'))
# 有密码
credentials = pika.PlainCredentials("s14","123")
connection = pika.BlockingConnection(pika.ConnectionParameters('192.168.119.10',credentials=credentials))
channel = connection.channel()
# 声明一个队列(创建一个队列)
# 默认此队列不支持持久化,如果服务挂掉,数据丢失
# durable=True 开启持久化,必须新开启一个队列,原本的队列已经不支持持久化了
'''
实现rabbitmq持久化条件
 delivery_mode=2
使用durable=True声明queue是持久化
 
'''
channel.queue_declare(queue='LOL',durable=True) #队列名称LOL
channel.basic_publish(exchange='',
                      routing_key='LOL', # 消息队列名称
                      body='德玛西亚万岁',# 往队列中加入有一个字符串
                      # 支持数据持久化
                      properties=pika.BasicProperties(
                          delivery_mode=2,#代表消息是持久的  2
                      )
                      )
connection.close()

 消费者.py:

import pika
credentials = pika.PlainCredentials("s14","123")
connection = pika.BlockingConnection(pika.ConnectionParameters('192.168.119.10',credentials=credentials))
channel = connection.channel()
# 确保队列持久化
channel.queue_declare(queue='LOL',durable=True)

'''
必须确保给与服务端消息回复,代表我已经消费了数据,否则数据一直持久化,不会消失
'''
def callback(ch, method, properties, body):
    print("消费者接受到了任务: %r" % body.decode("utf-8"))
    # 模拟代码报错
    # int('asdfasdf')    # 此处报错,没有给予回复,保证客户端挂掉,数据不丢失
   
    # 告诉服务端,我已经取走了数据,否则数据一直存在
    ch.basic_ack(delivery_tag=method.delivery_tag)
# 关闭no_ack,代表给与回复确认
channel.basic_consume(callback,queue='LOL',no_ack=False)
channel.start_consuming() 

 


举例:

  

  body 是发送的消息 这里是一个字符串  roouting-key是队列名称

 

  安装rabbitMQ服务端后, 在15672端口有web管理界面↓:

  

  回调函数 几个参数固定

  no_ack 不需要确认回复 消费者拿走就清除队列中的标记 不管有没有处理成功

 

 

消费一个消息↓↓:

   

  消费者可以有多个:↓ 如果有多个消费者 轮询接收消息

 

 

  加一个新的消息队列:

 

  创建一个消费者 :执行回调函数 消息就会被取走

  生产者发送一个消息 看见队列中多一个消息 消费者消费的时候如果报错了 就会订单丢失,这时候需要用auto_ack=true 就会有回复 消费的时候报错 数据不丢 下一个消费者可以继续正常消费

 

  让队列持久化 重启后队列才不会丢

  队列持久化

 

  

 

posted @ 2019-03-17 22:39  yunfengding  阅读(251)  评论(0编辑  收藏  举报