Zato入门part2

Zato入门part1

参考1

前提:从part已经建立了集群、服务框架并成功的调用了服务。现在我们通过HTTP、ZeroMQ和JSON使用外部服务。

除非坚持手工调用,否则服务从来不知道什么确切的URLs来调用。它们总是被外部链接的信息屏蔽。

刚才指出的面向服务的连接叫做CRM,它是一种可以向服务推送请求的服务。当CRM改变了它的地址,服务不需要重新配置,我们仅仅需要做的是在web前端输入心得地址,那么它将会自动被传播到整个集群,这样下一次服务利用这个服务时会自动连接到新的地址。

我们现在没有CRM和方便的支付系统,但在本入门教程中我们可以通过请求之前准备好的服务(客户信息消费信息)来模拟。

客户信息

{
 "firstName": "Sean",
 "lastName": "O'Brien"
}

消费信息

{
 "DATE": "2013-05-14T10:42:14.401555",
 "AMOUNT": "357"
}

利用ZeroMQ连接欺诈检测系统。

现在利用web前端,建立两个外部连接。

操作:Connections -> Outgoing -> Plain HTTP

CRM 连接

消费连接

同步调用

代码

my_service.py
# Zato
from zato.server.service import Service

class GetClientDetails(Service):
    def handle(self):

        self.logger.info('Request: {}'.format(self.request.payload))
        self.logger.info('Request type: {}'.format(type(self.request.payload)))

        # Fetch connection to CRM
        crm = self.outgoing.plain_http.get('CRM')

        # Fetch connection to Payments
        payments = self.outgoing.plain_http.get('Payments')

        # Grab the customer info ..
        response = crm.conn.send(self.cid, self.request.payload)
        cust = response.data

        # .. and last payment's details
        response = payments.conn.send(self.cid, self.request.payload)
        last_payment = response.data

        self.logger.info('Customer details: {}'.format(cust))
        self.logger.info('Last payment: {}'.format(last_payment))

        response = {}
        response['first_name'] = cust['firstName']
        response['last_name'] = cust['lastName']
        response['last_payment_date'] = last_payment['DATE']
        response['last_payment_amount'] = last_payment['AMOUNT']

        self.logger.info('Response: {}'.format(response))

        # And return response to the caller
        self.response.payload = response

热部署

 cp my_service.py $path/server1/pickup-dir

通过curl请求服务

$ curl localhost:11223/tutorial/first-service -d '{"cust_id":123, "cust_type":"A"}'
  {"first_name": "Sean", "last_name": "O'Brien",
   "last_payment_date": "2013-05-14T10:42:14.401555",
   "last_payment_amount": "357"}
$

同时一个server的日志中,会记录以下内容

INFO - Request: {u'cust_id': 123L, u'cust_type': u'A'}
INFO - Request type: <type 'dict'>

INFO - Customer details: {u'lastName': u"O'Brien", u'firstName': u'Sean'}
INFO - Last payment: {u'DATE': u'2013-05-14T10:42:14.401555', u'AMOUNT': u'357'}

INFO - Response: {'last_payment_amount': u'357', 'first_name': u'Sean',
  'last_name': u"O'Brien", 'last_payment_date': u'2013-05-14T10:42:14.401555'}

提示

  • self.request.input.payload是在命令行中-d后面的内容
  • payload是python中的字典对象

异步发送信息

到目前为止,我们有一个服务通过HTTP接受json,两个服务通过json调用服务,输出json到一个文档。

part1提到,商务人员对消费者的类型(A,B,C)做出判断需要近处观察——消费者的任何操作需要过侦查系统的检查,即使是最后毫无害处的付款行为。

我们没有机会接触到这样的系统,但是我们可以通过几行代码模拟该行为。这只需要执行一个ZeroMQ的PULL socket在一个无限循环中,并把任何输入的信息记录下来。我们将要把我们的服务做成一个异步推送数据给server,而server是如何处理处理并不是服务所关心的。

# stdlib
import logging

# ZeroMQ
import zmq

logging.basicConfig(level=logging.INFO, format='%(levelname)s - %(message)s')

address = 'tcp://127.0.0.1:35101'

context = zmq.Context()
socket = context.socket(zmq.PULL)
socket.bind(address)

logging.info('Fraud detection app running on {}'.format(address))

while True:
    msg = socket.recv_json()
    logging.info(msg)

该系统可以完美地执行,毕竟这是发送信息的整个点,我们只是发送信息,然后就不用管了。在这种特殊的情况下,接受者只是记录下所有的请求——这并不是我们关心的。

假设zato已经安装在$install_dir,我们可以执行该命令如下,注意命令中确实是'py',而不是'python'。

$install_dir/bin/py zmq-server1.py
INFO - Fraud detection app running on tcp://127.0.0.1:35101

我们需要建立一个ZeroMQ:Connections -> Outgoing -> ZeroMQ 

新建一个

热部署以下服务,观察侦查系统报出的日志:

# stdlib
from datetime import datetime
from json import dumps

# Zato
from zato.server.service import Service

class GetClientDetails(Service):

    def should_notify_frauds(self, cust_type):
        config_key = 'myapp:fraud-detection:cust-type'
        return cust_type in ('A', 'B', 'C')

    def handle(self):

        self.logger.info('Request: {}'.format(self.request.payload))
        self.logger.info('Request type: {}'.format(type(self.request.payload)))

        # Fetch connection to CRM
        crm = self.outgoing.plain_http.get('CRM')

        # Fetch connection to Payments
        payments = self.outgoing.plain_http.get('Payments')

        # Grab the customer info ..
        response = crm.conn.send(self.cid, self.request.payload)
        cust = response.data

        # .. and last payment's details
        response = payments.conn.send(self.cid, self.request.payload)
        last_payment = response.data

        self.logger.info('Customer details: {}'.format(cust))
        self.logger.info('Last payment: {}'.format(last_payment))

        response = {}
        response['first_name'] = cust['firstName']
        response['last_name'] = cust['lastName']
        response['last_payment_date'] = last_payment['DATE']
        response['last_payment_amount'] = last_payment['AMOUNT']

        if self.should_notify_frauds(self.request.payload['cust_type']):

            fraud_request = {}
            fraud_request['timestamp'] = datetime.utcnow().isoformat()
            fraud_request['request'] = dumps(self.request.payload)
            fraud_request['response'] = response
            fraud_request = dumps(fraud_request)

            self.outgoing.zmq.send(fraud_request, 'Fraud detection')

        else:
            self.logger.info('Skipped fraud detection for CID {}'.format(self.cid))

        self.logger.info('Response: {}'.format(response))

        # And return response to the caller
        self.response.payload = response

调用服务

$ curl localhost:11223/tutorial/first-service -d '{"cust_id":123, "cust_type":"A"}'
{"last_payment_amount": "357", "first_name": "Sean",
 "last_name": "O'Brien", "last_payment_date": "2013-05-14T10:42:14.401555"}
$

zmq显示

INFO - Fraud detection app running on tcp://127.0.0.1:35101
INFO - {u'timestamp': u'2013-05-14T18:16:56.048224',
        u'request': u'{"cust_id": 123, "cust_type": "A"}',
        u'response': u'{"last_payment_amount": "357", "first_name": "Sean",
i                        "last_name": "O\'Brien",
                        "last_payment_date": "2013-05-14T10:42:14.401555"}'}

可以看到,当类型为A,B,C时,有日志输出,当输入其他类型时,直接忽略了——因为根本就没有请求。

Redis

到目前为止,我们已经做得够炫酷的了,但是还有一件非常不和谐的事情在前面的步骤——消费者的类型需要额外的异步信息输送到检测系统,这在服务中是很难编码的。例如当工作人员决定使用更新的类型时,我们还得去改代码,然后重新部署,至少这样不是最好的。

我们可以把这行类型信息存在Redis中,这样Zato就可以从中读取。

操作:Key/value DB -> Remote commands

点击后,出现窗口,可以直接执行Redis命令,下面是执行INFO后的输出:

下面执行3个Redis命令

LPUSH myapp:fraud-detection:cust-type A
LPUSH myapp:fraud-detection:cust-type B
LPUSH myapp:fraud-detection:cust-type C

现在重新更改服务代码,用LRANGE来读取所有的配置值:

# stdlib
from datetime import datetime
from json import dumps, loads

# Zato
from zato.server.service import Service

class GetClientDetails(Service):

    def should_notify_frauds(self, cust_type):
        config_key = 'myapp:fraud-detection:cust-type'
        return cust_type in self.kvdb.conn.lrange(config_key, 0, -1)

    def handle(self):

        request = dumps(self.request.payload)

        self.logger.info('Request: {}'.format(self.request.payload))
        self.logger.info('Request type: {}'.format(type(self.request.payload)))

        # Fetch connection to CRM
        crm = self.outgoing.plain_http.get('CRM')

        # Fetch connection to Payments
        payments = self.outgoing.plain_http.get('Payments')

        # Grab the customer info ..
        cust = crm.conn.send(request)
        cust = loads(cust.text)

        # .. and last payment's details
        last_payment = payments.conn.send(request)
        last_payment = loads(last_payment.text)

        self.logger.info('Customer details: {}'.format(cust))
        self.logger.info('Last payment: {}'.format(last_payment))

        # Create response

        response = {}
        response['first_name'] = cust['firstName']
        response['last_name'] = cust['lastName']
        response['last_payment_date'] = last_payment['DATE']
        response['last_payment_amount'] = last_payment['AMOUNT']
        response = dumps(response)

        # Create a request to fraud detection and send it asynchronously
        # but only if a customer is of a certain type.

        if self.should_notify_frauds(self.request.payload['cust_type']):

            fraud_request = {}
            fraud_request['timestamp'] = datetime.utcnow().isoformat()
            fraud_request['request'] = request
            fraud_request['response'] = response
            fraud_request = dumps(fraud_request)

            self.outgoing.zmq.send(fraud_request, 'Fraud detection')

        else:
            self.logger.info('Skipped fraud detection for CID {}'.format(self.cid))

        self.logger.info('Response: {}'.format(response))

        # And return response to the caller
        self.response.payload = response

这样当新的事物来的时候,我们只需要操作Redis数据库,不需要修改服务代码,不需要重新热部署。

统计

web前端有丰富的展示统计信息页面。

可以两种类型的统计信息

  • 由Zato产生的统计信息
  • 由load-balancer产生的统计信息

前一个统计信息可以发现一个服务的好坏;后一个可以用来诊断集群中不良的端点。

例如:

可以看到在我们的服务在最慢的10个服务之列,平均相应时间(M)为147.87ms,这并不意味着很差,因为所有服务的平均相应时间(AM)为857ms。同时可以分析到该服务占总服务数量的3%,占用时间占总时间的9%,倒数第二列告知在最后一小时(TU)总共有299次服务请求。最后一列显示其趋势。

对于load-balancer,可以通过web前端页面分析LB的统计信息。注意这一部分需要一个新的认证信息,它是由潜在的HAProxy直接管理,账户和密码在$path/load-balancer/config/repo/zato.config,admin1为账户名,后面对应的为密码。当然里面密码可以改变,需要重启下服务方可生效。

 

posted @ 2015-08-23 17:37  jihite  阅读(1880)  评论(0编辑  收藏  举报