一个消息调度框架构建
- 基本框架
- MDU(消息分发单元):包含一个消息处理任务,包含自身的消息队列,是一个消息调度的基本单位。
- PID (功能子模块) :框架中用PID作为模块的划分,每个模块具有自己的PID编号,根据功能和调度需求可以安排多个PID到一个MDU中,PID是消息通信的一个基本单位,每个PID提供一个消息处理入口。
- MQ (消息队列) :使用消息队列作为任务通信的数据结构。
- 消息处理流程
- 构建一个MDU模块,注册入框架中,初始MDU没有注册PID,未构建消息处理任务。
- 构建PID,注册入对应的MDU中,如果是MDU中第一个PID,构建消息处理任务。消息处理任务从该MDU对应的消息队列中取消息处理。
- 消息处理任务获取消息后根据消息中携带的接收PID的信息分发到对应的PID模块处理。
- 完整的消息交互流程
- 任务A申请消息,消息内容必须包括发送模块PID编号、接收模块PID编号、消息内容。
- 通过消息框架提供的消息发送接口直接发送消息,消息框架根据接收PID信息,将消息填入对应MDU的消息队列中。
- MDU的消息处理任务B从消息队列中获取消息处理。
- MDU消息队列会被多个任务并发写入消息,被消息处理任务读取消息处理,需要对消息队列进行互斥和同步。详见http://www.cnblogs.com/chencheng/p/2893421.html
- MUD、PID规划
- MDU作为一个调度基本单元,如果一个MDU中只有一个PID会导致系统中任务多,任务切换的开销大。
- 如果MDU中包含太多PID,由于所有PID在一个消息队列中串行运行,会影响PID的响应,影响系统性能。
- 功能紧耦合的PID放入一个MDU中。
- 耗时PID和实时要求高的PID不放入一个MDU中。
- 实现
MDU:
import myQueue from myThread import myThread class mdu: def __init__(self, mduID): self.mduId = mduID self.msgQue = myQueue.myQueue(10) self.map = {} def getMduID(self): return self.mduId def registPid(self, pidID, pid): self.map[pidID] = pid if 1==len(self.map): self.run() def msgEnQueue(self,msg): self.msgQue.enQueue(msg) def msgProcess(self): while True: msg = self.msgQue.deQueue() recvPid = msg.getRecvPid() self.map[recvPid].msgProcess(msg); def run(self): t = myThread(self.msgProcess) t.start()
PID:
import message import support import mdu import pdb class pid: def __init__(self, pidID): self.pidID = pidID self.registMe() def registMe(self): support.registPid(self) def getPidID(self): return self.pidID
SUPPORT:
import mdu import pdb mduMap = {} def registMdu(mdu): mduMap[mdu.getMduID()] = mdu def getMdu(revPid): return mduMap[revPid&0xFFFF0000>>16] def registPid(pid): mdu = getMdu(pid.getPidID()) #pdb.set_trace() mdu.registPid(pid.getPidID(), pid) def sendMsg(msg): mdu = getMdu(msg.getRecvPid()) mdu.msgEnQueue(msg)
MQ:
from threading import Lock from threading import Condition import threading class myQueue: def __init__(self, size): self.size = size self.list = list() self.lock = Lock() self.notFullCond = Condition(self.lock) self.notEmptyCond = Condition(self.lock) def isFull(self): if self.size == len(self.list): return True return False def isEmpty(self): if 0 == len(self.list): return True return False def enQueue(self, elem): self.lock.acquire() while self.isFull(): print('queue is full, waiting...') self.notFullCond.wait() print(threading.current_thread().getName() + ' product ' + str(elem)) self.list.append(elem) self.notEmptyCond.notify() self.lock.release() def deQueue(self): self.lock.acquire() while self.isEmpty(): print('queue is empty, waiting...') self.notEmptyCond.wait() elem = self.list[0] del(self.list[0]) print(threading.current_thread().getName() + ' consume ' + str(elem)) self.notFullCond.notify_all() self.lock.release() return elem