Node.js:进程、子进程与cluster多核处理模块
1、process对象
process
对象就是处理与进程相关信息的全局对象,不需要require引用,且是EventEmitter的实例。
获取进程信息
process对象提供了很多的API来获取当前进程的运行信息,例如进程运行时间、内存占用、CPU占用、进程号等,具体使用如下所示:
/**
* 获取当前Node.js进程信息
*/
function getProcessInfo(){
const memUsage = process.memoryUsage();//内存使用
const cpuUsage = process.cpuUsage();//cpu使用
const cfg = process.config;//编译node.js的配置信息
const env = process.env;//用户环境
const pwd = process.cwd();//工作目录
const execPath = process.execPath;//node.exe目录
const pf = process.platform;//运行nodejs的操作系统平台
const release = process.release;//nodejs发行版本
const pid = process.pid;//nodejs进程号
const arch = process.arch;//运行nodejs的操作系统架构
const uptime = process.uptime();//nodejs进程运行时间
return {
memUsage,
cpuUsage,
cfg,
env,
pwd,
execPath,
pf,
release,
pid,
arch,
uptime
}
}
console.log(getProcessInfo());
process.argv获取命令行指令参数
使用node命令执行某个脚本时,可以在指令末尾加上参数,process.argv
返回一个数组,第一个元素是process.execPath
,第二个元素是被执行脚本的路径,如下所示:
var args = process.argv;
if(!args.length){
process.exit(0);
}else{
console.log(args.slice(2).join('\n'));
}
执行结果如下:
E:\developmentdocument\nodejsdemo>node process-example.js a b c
a
b
c
process事件
1、exit事件,当调用process.exit()
方法或者事件循环队列没有任何工作时便会触发该事件,监听的回调函数的逻辑必须是同步的,否则不会执行。如下所示:
process.on('exit',(code)=>{
console.log(code);
setTimeout(()=>console.log(code),1000);//不会执行
});
2、uncaughtException事件,当一个没有被捕获的异常冒泡到事件队列就会触发该事件,默认打印错误信息并进程退出,当uncaughtException事件有一个以上的 listener 时,会阻止 Node 结束进程。但是这种做法有内存泄露的风险,所以千万不要这么做。如下所示:
process.on('uncaughtException',(err)=>{
console.log(err);
});
setTimeout(()=>console.log('nihao'),1000);//1秒后会执行
a();
console.log('hehe');//不会执行
3、message事件,进程间使用childProcess.send()
方法进行通信,就会触发该事件,使用如下所示:
const cp = require('child_process').fork(`${__dirname}/test.js`);
cp.on('message',(message)=>{
console.log('got the child message:'+message);
});
cp.send('hello child!');
//test.js
process.on('message',(message)=>{
console.log('got the parent message:'+message);
});
process.send('hello parent');
执行结果如下:
E:\developmentdocument\nodejsdemo>node process-example.js
got the child message:hello parent
got the parent message:hello child!
process.nextTick方法
将回调函数添加到下一次事件缓存队列中,当前事件循环都执行完毕后,所有的回调函数都会被执行,如下所示:
console.log('hello world');
setTimeout(()=>console.log('settimeout'),10);
process.nextTick(()=>console.log('nexttick'));
console.log('hello nodejs');
执行结果如下所示:
E:\developmentdocument\nodejsdemo>node process-example.js
hello world
hello nodejs
nexttick
settimeout
2、child_process模块
通过child_process模块可以创建子进程,从而实现多进程模式,更好地利用CPU多核计算资源。该模块提供了四种方法创建子进程,分别是child_process.spawn()
、child_process.exec()
、child_process.execFile()
,child_process.fork()
,这四个方法都返回一个childProcess
对象,该对象实现了EventEmitter的接口,带有stdout,stdin,stderr的对象。
child_process.spawn(command[, args][, options])方法
该方法使用command指令创建一个新进程,参数含义如下:
- command,带执行的命令
- args,命令行参数数组
- options,可选参数,为一个对象
options参数主要拥有以下属性:
- cwd,当前工作目录,若没有指定,则使用当前工作目录
- env,命令执行环境,默认为process.env
- argv0,如果没有指定command,该值会被设置为command
- stdio,子进程标准IO配置
返回值为childProcess对象,使用如下所示:
const child_process = require('child_process');
const iconv = require('iconv-lite');
const spawn = child_process.spawn;
const buffArr = [];
let buffLen = 0;
const dirs = spawn('cmd.exe',['/C','dir']);
dirs.stdout.on('data',(data)=>{
buffArr.push(data);
buffLen+=data.length;
});
dirs.stderr.on('end',()=>{
console.log(iconv.decode(Buffer.concat(buffArr,buffLen),'GBK'));
});
dirs.stderr.on('error',(err)=>{
console.log(err);
});
dirs.on('close',(code)=>{
console.log(code);
});
执行结果如下:
正在 Ping www.qq.com [14.17.32.211] 具有 32 字节的数据:
来自 14.17.32.211 的回复: 字节=32 时间=2ms TTL=55
来自 14.17.32.211 的回复: 字节=32 时间=2ms TTL=55
来自 14.17.32.211 的回复: 字节=32 时间=3ms TTL=55
来自 14.17.32.211 的回复: 字节=32 时间=3ms TTL=55
14.17.32.211 的 Ping 统计信息:
数据包: 已发送 = 4,已接收 = 4,丢失 = 0 (0% 丢失),
往返行程的估计时间(以毫秒为单位):
最短 = 2ms,最长 = 3ms,平均 = 2ms
如果输出碰到乱码的时候,可以借助iconv-lite进行转码即可,使用npm install iconv-lite --save
。
child_process.exec(command[, options][, callback])方法
新建一个shell执行command指令,并缓存产生的输出结果,方法参数含义如下:
- command,待执行的指令,带独立的参数
- options,对象,拥有cwd,env,encoding,shell,maxBuffer等属性
- callback,回调函数,参数为(error,stdout,stderr),如果执行成功,error则为null,否则为Error的实例。
返回值也是childProcess对象,该方法与child_process.spawn()
方法的区别在于,使用回调函数获得子进程的输出数据,会先将数据缓存在内存中,等待子进程执行完毕之后,再将所有的数据buffer交给回调函数,如果该数据大小超过了maxBuffer(默认为200KB),则会抛出错误。虽然可以通过参数maxBuffer来设置子进程的缓存大小,但是不建议这么做,因为exec()
方法不合适创建返回大量数据的进程,应该就返回一些状态码。
使用如下所示:
exec('netstat /ano | find /C /I "tcp"',(err,stdout,stderr)=>{
if(err) throw err;
console.log(stdout);
console.log(stderr);
});
child_process.execFile(file[, args][, options][, callback])方法
类似与child_process.exec()
方法,不同之处是不会创建一个shell,而是直接使用指定的可执行文件创建一个新进程,更有效率,使用如下所示:
execFile('mysql',['--version'],(err,stdout,stderr)=>{
if(err) throw err;
console.log(stdout);
console.log(stderr);
});
child_process.fork(modulePath[, args][, options])方法
创建一个子进程执行module,并与子进程建立IPC通道进行通信,方法返回一个childProcess对象,作为子进程的句柄,通过send()方法向子进程发送信息,监听message事件接收子进程的消息,子进程亦同理。使用如下所示:
const fibonacci = fork('./fibonacci.js');
const n = 10;
fibonacci.on('message',(msg)=>{
console.log(`fibonacci ${n} is:${msg.result}`);
});
fibonacci.send({n:n});
//fibonacci.js
function fibonacci(n,ac1=1,ac2=1){
return n<=2?ac2:fibonacci(n-1,ac2,ac1+ac2);
}
process.on('message',(msg)=>{
process.send({result:fibonacci(msg.n)})
});
child.disconnect()方法
关闭父子进程之间的IPC通道,之后父子进程不能执行通信,并会立即触发disconnect
事件,使用如下所示:
const fibonacci = fork('./fibonacci.js');
const n = 10;
fibonacci.on('message',(msg)=>{
console.log(`fibonacci ${n} is:${msg.result}`);
fibonacci.disconnect();
});
fibonacci.on('disconnect',()=>{
console.log('与子进程断开连接.');
});
fibonacci.send({n:n});
//fibonacci.js
function fibonacci(n,ac1=1,ac2=1){
return n<=2?ac2:fibonacci(n-1,ac2,ac1+ac2);
}
process.on('message',(msg)=>{
process.send({result:fibonacci(msg.n)})
});
执行结果:
fibonacci 10 is:55
与子进程断开连接.
子进程主要用来做CPU密集型的工作,如fibonacci数列的计算,canvas像素处理等。
3、cluster多核处理模块
Node.js是单线程运行的,不管你的机器有多少个内核,只能用到其中的一个,为了能利用多核计算资源,需要使用多进程来处理应用。cluster模块让我们可以很容易地创建一个负载均衡的集群,自动分配CPU多核资源。
使用如下所示:
const cluster = require('cluster');
const http = require('http');
const cpuNums = require('os').cpus().length;
if(cluster.isMaster){
for(let i=0;i<cpuNums;i++){
cluster.fork();
}
cluster.on('exit',(worker)=>{
console.log(`worker${worker.id} exit.`)
});
cluster.on('fork',(worker)=>{
console.log(`fork:worker${worker.id}`)
});
cluster.on('listening',(worker,addr)=>{
console.log(`worker${worker.id} listening on ${addr.address}:${addr.port}`)
});
cluster.on('online',(worker)=>{
console.log(`worker${worker.id} is online now`)
});
}else{
http.createServer((req,res)=>{
console.log(cluster.worker.id);
res.writeHead(200);
res.end('hello world');
}).listen(3000,'127.0.0.1');
}
执行结果:
fork:worker1
fork:worker2
fork:worker3
fork:worker4
worker1 is online now
worker2 is online now
worker3 is online now
worker1 listening on 127.0.0.1:3000
worker4 is online now
worker2 listening on 127.0.0.1:3000
worker3 listening on 127.0.0.1:3000
worker4 listening on 127.0.0.1:3000
cluster工作原理
如上代码所示,master是控制进程,worker是执行进程,每个worker都是使用child_process.fork()
函数创建的,因此worker与master之间通过IPC进行通信。
当worker调用用server.listen()方法时会向master进程发送一个消息,让它创建一个服务器socket,做好监听并分享给该worker。如果master已经有监听好的socket,就跳过创建和监听的过程,直接分享。换句话说,所有的worker监听的都是同一个socket,当有新连接进来的时候,由负载均衡算法选出一个worker进行处理。
cluster对象的属性和方法
cluster.isMaster:标志是否master进程,为true则是
cluster.isWorker:标志是否worker进程,为true则是
cluster.worker:获得当前的worker对象,在master进程中使用无效
cluster.workers: 获得集群中所有存活的worker对象,子啊worker进程使用无效
cluster.fork(): 创建工作进程worker
cluster.disconnect([callback]): 断开所有worker进程通信
*cluster对象的事件
Event: 'fork': 监听创建worker进程事件
Event: 'online': 监听worker创建成功事件
Event: 'listening': 监听worker进程进入监听事件
Event: 'disconnect': 监听worker断开事件
Event: 'exit': 监听worker退出事件
Event: 'message':监听worker进程发送消息事件
使用如下所示:
const cluster = require('cluster');
const http = require('http');
const cpuNums = require('os').cpus().length;
/*process.env.NODE_DEBUG='net';*/
if(cluster.isMaster){
for(let i=0;i<cpuNums;i++){
cluster.fork();
}
cluster.on('exit',(worker)=>{
console.log(`worker${worker.id} exit.`)
});
cluster.on('fork',(worker)=>{
console.log(`fork:worker${worker.id}`)
});
cluster.on('disconnect',(worker)=>{
console.log(`worker${worker.id} is disconnected.`)
});
cluster.on('listening',(worker,addr)=>{
console.log(`worker${worker.id} listening on ${addr.address}:${addr.port}`)
});
cluster.on('online',(worker)=>{
console.log(`worker${worker.id} is online now`)
});
cluster.on('message',(worker,msg)=>{
console.log(`got the worker${worker.id}'s msg:${msg}`);
});
Object.keys(cluster.workers).forEach((id)=>{
cluster.workers[id].send(`hello worker${id}`);
});
}else{
process.on('message',(msg)=>{
console.log('worker'+cluster.worker.id+' got the master msg:'+msg);
});
process.send('hello master, I am worker'+cluster.worker.id);
http.createServer((req,res)=>{
res.writeHead(200);
res.end('hello world'+cluster.worker.id);
}).listen(3000,'127.0.0.1');
}
执行结果如下:
fork:worker1
fork:worker2
fork:worker3
fork:worker4
worker1 is online now
worker2 is online now
got the worker1's msg:hello master, I am worker1
worker1 got the master msg:hello worker1
worker1 listening on 127.0.0.1:3000
worker4 is online now
got the worker2's msg:hello master, I am worker2
worker2 got the master msg:hello worker2
worker3 is online now
worker2 listening on 127.0.0.1:3000
got the worker4's msg:hello master, I am worker4
worker4 got the master msg:hello worker4
worker4 listening on 127.0.0.1:3000
got the worker3's msg:hello master, I am worker3
worker3 got the master msg:hello worker3
worker3 listening on 127.0.0.1:3000
在win7环境下,cluster负载均衡情况,如下所示:
服务端代码:
const cluster = require('cluster');
const http = require('http');
const cpuNums = require('os').cpus().length;
if(cluster.isMaster){
var i = 0;
const widArr = [];
for(let i=0;i<cpuNums;i++){
cluster.fork();
}
cluster.on('message',(worker,msg)=>{
if(msg === 'ex'){
i++;
widArr.push(worker.id);
(i>=80)&&(process.exit(0));
}
});
process.on('exit', (code) => {
console.log(analyzeArr(widArr));
});
//统计每个worker被调用的次数
function analyzeArr(arr) {
let obj = {};
arr.forEach((id, idx, arr) => {
obj['work' + id] = obj['work' + id] !== void 0 ? obj['work' + id] + 1 : 1;
});
return obj;
}
}else{
http.createServer((req,res)=>{
console.log(`worker${cluster.worker.id}`);
process.send('ex');
res.writeHead(200);
res.end('hello world'+cluster.worker.id);
}).listen(3000,'127.0.0.1');
}
使用Apache的AB命令进行测试,并发40,总共80:C:\Users\learn>ab -c 40 -n 80 http://127.0.0.1:3000/
。
测试结果: